∙ 2024년 2월 8일, 미국 상무부(DOC)는 생성형 인공지능(AI)의 안전한 개발과 보급을 지원하기 위한 ‘인공지능 안전연구소 컨소시엄(Artificial Intelligence Safety Institute Consortium, AISIC)’ 설치를 발표함¹⁾

- (배경) 이번 컨소시엄의 구성은 2023년 10월 미국 바이든(Biden) 대통령의 AI에 관한 행정명령²⁾에 따라 개시되었는데, 동 행정명령은 AI 안전성 평가 및 AI 도구의 안전성 표준 마련 등을 요청함 

- (주요내용) 이번 발표의 주요내용은 다음과 같음
∙ (목적) 동 컨소시엄은 안전하고 신뢰할 수 있는 AI의 개발과 보급을 지원하기 위해 AI 개발자와 이용자, 학술계, 정부·산업계의 연구자, 시민사회 조직을 연결하는 것을 목적으로 함
∙ (기능) AISIC는 미국 AI 안전연구소(USAIS) 산하에 설치되며 레드팀³⁾ 구성, 역량 평가, 리스크 관리, 안전 및 보안, 합성 콘텐츠의 전자 워터마킹을 위한 지침 개발 등에 기여할 예정임
∙ (참여멤버) AISIC에는 200개 이상의 기업과 단체, 대학, 지역자치단체가 참여하고 있으며 기업의 경우 애플, IBM, 마이크로소프트(MS) 등 대기업은 물론 OpenAI와 앤솔로픽 등 신흥 AI 기업도 참여하고 있음 
∙ (향후계획) AISIC는 현재까지 설립된 가장 큰 규모의 AI 안전을 전담하는 최초의 컨소시엄으로 AI 안전에 대한 새로운 측정과학(Measurement Science)의 기반을 구축하는 데 중점을 둘 것이며, 비영리 단체뿐만 아니라 지방 정부를 포함하여 AI 안전을 위한 전 세계 국가의 단체들과 협력할 예정임


1) AISIC에 참여하는 컨소시엄 멤버 목록은 다음의 링크 참조: https://www.nist.gov/system/files/documents/noindex/2024/02/07/2024-02-07%20The%20US%20AI%20Safety%20Institute%20Consortium%20Member%20List.pdf
2) 2023년 10월 미국 바이든(Biden) 대통령은 ‘안전하고 보안적이며 신뢰할 수 있는 인공지능 행정명령(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)’을 발표함. 동 행정명령은 ① AI 안전 및 보안에 대한 새로운 표준 확립, ② 미국 국민의 개인정보보호, ③ 형평성 및 시민권 증진, ④ 소비자 및 근로자 옹호, ⑤ 혁신 및 경쟁 촉진, ⑥ 미국의 글로벌 리더십 발전 등의 내용을 포함함.
3) 미국의 안보·건강·안전을 위협할 수 있는 AI 모델에 대해 정부검증 전문가팀을 의미함(출처: 국가안보전략연구원).