∙ 2024년 11월 20일, 미국 상무부(DOC)는 미국 국무부(DOS)와 공동으로 인공지능(AI) 안전 과학을 발전시키고 연구, 모범 사례 및 평가에 대한 국제 협력을 활성화하기 위해 ‘AI 안전연구소 국제 네트워크(International Network of AI Safety Institutes)’를 출범하고 관련 행사를 개최하였다고 발표함

- (배경) ‘AI 안전연구소 국제 네크워크’ 행사는 2024년 5월 한국 윤석열 대통령이 영국 리시 수낙(Rishi Sunak) 총리와 공동으로 개최한 ‘AI 서울 정상회의’¹⁾에서 발표된 ‘서울선언’의 핵심의제 중 하나로, 안전한 AI에 대한 글로벌 협력의 일환으로 개최됨
∙ 미국 AI 안전연구소(USAISI)는 미국 상무부(DOC) 산하 국립표준기술연구소(NIST) 내에 소속된 기관으로, AI 안전 노력을 주도하기 위해 2023년 11월 설립됨²⁾ 

- (주요내용) 동 발표의 주요내용은 다음과 같음
(1) 행사 개요
∙ 동 행사는 미국 캘리포니아 주(州) 샌프란시스코에서 11월 20일부터 21일까지 양일 간 개최되었으며 주최국인 미국을 포함해 호주, 캐나다, 유럽연합(EU), 프랑스, 일본, 케냐, 대한민국, 싱가포르, 영국 등 10개국의 AI 안전연구소나 그에 상응하는 연구기관들 및 AI 안전 분야 기술전문가 등이 참석하여 ‘AI 안전연구소 국제 네크워크’에 가입함
∙ 가입국 정부의 기술 전문가들이 주요 AI 개발자, 학자, 시민사회 지도자, 기타 국가 정부의 과학자들과 함께 AI 안전에 관한 주요 협력 분야를 논의하고 네트워크의 임무에 기술 및 과학적 전문성을 제공함
∙ 기술 세션 회의(technical working meeting)에서는 ① AI 합성 콘텐츠의 위험 관리, ② AI 기반 모델 테스트, ③ 첨단 AI 시스템에 대한 위험 평가 수행 등 국제 공조가 시급한 3가지 우선순위를 다룸

(2) AI 안전연구소 국제 네트워크
∙ 동 행사에서 출범한 ‘AI 안전연구소 국제 네트워크’는 전 세계 기술전문성 결집을 통해 AI 안전 관련 위험과 그 완화에 대한 공통의 과학적 이해를 창출하고, 국제연구를 통해 상호운용 가능한 원칙과 모범사례의 적용을 지원하는 것을 목표로 연구, 평가, 지침, 포용 분야에 대한 글로벌 협력을 중점적으로 추진할 계획이며 세부 내용은 다음과 같음



- (관련내용) 2025년 2월, 프랑스에서는 ‘AI 액션 서밋(AI Action Summit)’이 개최될 예정이며 정부, 산업계, 학계, 시민 사회 전반의 선도적인 인재들을 한자리에 모아 AI 안전과 혁신에 대한 의미 있는 국제 협력 논의가 이루어질 전망임


1) AI 서울 정상회의와 관련한 내용은 연구원 IP News 제2024-24권호 참조: https://www.kiip.re.kr/board/trend/view.do?bd_gb=trend&bd_cd=1&bd_item=0&field=searchTC&query=AI&po_item_gb=KR&currentPage=2&po_no=22901