•2023년 6월 22일, 미국 상무부(DOC)는 미국 국립표준기술연구소(National Institute of Standards and Technology, NIST)가 AI 위험 관리 프레임워크(AI Risk Management Framework, AIRMF)를 기반으로 빠르게 발전하고 있는 AI 기술에 관한 새로운 워킹 그룹(이하 ‘AI 워킹 그룹’)을 출범한다고 발표함

- (배경) 2021년 9월 8일, DOC는 AI와 관련된 다양한 문제에 대해 자문 등을 실시하기 위해 AI 관련 분야의 전문가로 구성된 ‘국가인공지능자문위원회(NAIAC)’를 발족하였고 NAIAC는 AI 관련 과학기술 연구, 개발, 윤리, 표준, 교육, 공정성, 기술이전, 상업적 활용, 보안, 경제 경쟁력 등에 대한 자문과 정보를 제공함¹⁾  

- (주요내용) 동 발표의 주요내용은 다음과 같음
(1) AI 워킹 그룹 소개
∙ 동 AI 워킹 그룹은 코드, 텍스트, 이미지, 동영상, 음악과 같은 콘텐츠를 생성할 수 있는 AI와 관련된 기회 및 과제를 해결하고 생성형 AI 기술²⁾과 관련된 특수한 위험에 대처하는 데 도움이 되는 주요 지침을 개발하고자 창설됨
∙ 민간 및 공공 부문의 기술 전문가들과 함께 자원봉사자들의 참여를 유도할 것이며, 기술 및 시장 내에서 빠른 변화를 주도하고 있는 AI와 관련된 위험에 초점을 맞출 계획임

(2) AI 워킹 그룹의 기간별 목표 
∙ (단기 목표) AIRMF를 활용하여 생성형 AI 기술 개발을 지원하는 방법을 설명하는 지침에 대한 정보 수집
∙ (중기 목표) 생성형 AI와 관련된 테스트, 평가 및 측정에 대한 NIST의 작업을 지원하고 나아가 최장수이자 최대 규모의 해킹 컨퍼런스 데프콘(DEFCON)에서 NIST의 AI 빌리지(AI Village)³⁾ 참여를 지원
∙ (장기 목표) 강력한 생성형 AI 기술이 건강, 환경, 기후 변화와 같은 우리 시대의 주요 과제를 해결하는 데 생산적으로 사용될 가능성을 높일 수 있는 구체적인 기회를 모색하고 AI 애플리케이션 개발 및 사용 단계별 위험을 해결하고 관리할 수 있도록 지원



1) 국가인공지능자문위원회(National Artificial Intelligence Advisory Committee). 관련 내용은 연구원 IP News 2021-39 권호 참조: https://www.kiip.re.kr/board/trend/view.do?bd_gb=trend&bd_cd=1&bd_item=0&po_item_gb=¤tPage=79&po_no=20714
2) 생성형 AI란 텍스트, 오디오, 이미지 등의 기존 콘텐츠를 활용해 유사한 콘텐츠를 새로 만들어내는 인공지능 기술을 의미함(출처: 한국정보통신기술협회).
3) 데프콘 분야별 빌리지는 IoT, AI, 자동차, 모바일 등이 존재하며, AI 빌리지는 구글, OpenAI 등 AI 서비스를 제공하는 주요 기업의 모델을 해킹하는 세션임.