∙ 2024년 2월 21일, 미국 상무부(DOC) 산하 통신정보관리청(NTIA)은 인공지능(AI) 시스템의 핵심 구성 요소인 광범위하게 사용 가능한 ‘개방형 가중치(Open-Weight)’를 가진 고급 AI 모델에 관한 위험, 이점 및 잠재적 정책 관련 의견을 요청한다고 발표함

- (배경) 이번 의견 요청은 2023년 10월 미국 바이든(Biden) 대통령의 AI에 관한 행정명령¹⁾에 따라 개시되었는데, 동 행정명령은 AI 안전성 평가 및 AI 도구의 안전성 표준 마련 등을 요청함 

- (주요내용) 이번 발표의 주요내용은 다음과 같음
(1) 개요
∙ 개방형 가중치 AI 모델은 개발자가 기존 AI를 연구하고 맞춤화하여 다양한 이해관계자가 더욱 쉽게 접근할 수 있도록 하는 역할을 수행함
∙ 머신러닝 알고리즘은 대량의 데이터를 사용하여 패턴을 인식하고 적절한 반응을 학습하도록 모델을 훈련시켜 모델이 학습한 정도에 비례하여 가중치 값은 새로운 지식을 반영하기 위해 시간이 지남에 따라 조정되고, 궁극적으로 개발자의 목표에 맞는 행동을 생성하도록 최적화된 일련의 가중치에 도달하도록 함
∙ 이러한 개방형 가중치 AI 모델을 통해 개발자뿐만 아니라 소규모 기업, 연구원, 비영리 단체 및 개인에게 AI 도구의 가용성을 넓힐 수 있고 이는 AI의 편익 확산과 AI 안전 연구 속도를 가속화할 수 있음
∙ 반면, 이러한 AI 모델은 관련된 보호 장치를 더욱 쉽게 제거할 수 있다는 점에서 첨단 모델의 피해 규모와 가능성을 높일 수도 있다는 단점이 존재함

(2) 의견 요청 사항
∙ AI 모델의 다양한 개방 수준(Levels of openness)
∙ 폐쇄형 모델 관련 이점·위험과 모델 가중치를 광범위하게 이용할 수 있도록 만드는 이점·위험의 비교
∙ AI 모델 가중치를 다소 개방적으로 만드는 혁신, 경쟁, 안전, 보안, 신뢰성, 형평성 및 국가안보 문제
∙ AI 모델 가중치의 사용 가능성을 안내, 지원 또는 제한하는 미국 정부의 역할


1)  2023년 10월 미국 바이든(Biden) 대통령은 ‘안전하고 보안적이며 신뢰할 수 있는 인공지능 행정명령(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)’을 발표함. 동 행정명령은 ① AI 안전 및 보안에 대한 새로운 표준 확립, ② 미국 국민의 개인정보보호, ③ 형평성 및 시민권 증진, ④ 소비자 및 근로자 옹호, ⑤ 혁신 및 경쟁 촉진, ⑥ 미국의 글로벌 리더십 발전 등의 내용을 포함함.