∙ 2023년 9월 12일, 미국 백악관(WH)은 인공지능(AI) 기술의 안전하고 신뢰할 수 있는 개발을 추진하고자 행정부 고위 관료 및 8개 주요 AI 기업(Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI, Stability)과 함께 ‘자발적인 AI 안전 서약’에 대해 논의하였다고 발표함

- (배경 및 개요) 2023년 5월 4일, 미국 카멀라 해리스(Kamala Devi Harris) 부통령을 비롯한 백악관 고위 관료들은 AI 혁신의 최전선에 있는 미국 기업들과 만나 AI와 관련된 위험에 대한 우려를 공유하는 회의를 개최함¹⁾
∙ 2023년 7월 21일, 백악관은 7개의 주요 AI 기업(Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI)을 소집하여 안전하고 투명한 AI 기술 개발을 위해 이들 기업으로부터 자발적인 AI 안전 서약을 확보했다고 발표함²⁾ 
∙ 기존 7개 주요 AI 기업에 동 발표로 인해 추가된 8개 기업이 더해져 총 15개 AI 기업들은 ‘안전’, ‘보안’, ‘신뢰’라는 3가지 원칙을 강조하며 책임감 있는 AI 개발을 위해 동 안전 서약에 합의하였으며 구체적인 행정명령은 향후 발표될 예정임

- (주요내용) 동 AI 안전 서약의 주요내용은 다음과 같음
(1) 대중에게 제품을 소개하기 전에 제품의 안전성 보장
∙ 기업은 제품을 출시하기 전에 외부 전문가 등이 수행하는 AI 시스템에 대한 내부 및 외부 보안 테스트를 실시해야 하고 동 테스트는 바이오 보안 및 사이버 보안과 같은 가장 중요한 AI 위험 요소와 광범위한 사회적 영향에 대비하는 것을 목적으로 함
∙ AI 위험 관리에 관한 정보 등(안전 모범 사례, 안전장치 우회 시도에 대한 정보, 기술 협력 포함)을 업계 전반과 정부, 시민사회, 학계와 공유해야 함

(2) 보안을 최우선으로 하는 시스템 구축
∙ AI 시스템의 취약점을 발견 시 강력한 보고 메커니즘을 통해 이를 신속하게 발견하고 수정해야 하고 이를 위해 사이버 보안 및 내부 위협 보호 장치 등에 투자하여 독점 및 미공개 AI 모델 가중치(Model Weight)³⁾를  보호하는 데 합의함
∙ ① AI 모델 가중치가 AI 시스템에서 가장 핵심적인 부분이고 ② 보안 위험 가능성을 고려할 때 의도된 경우에만 모델 가중치를 공개한다는 것에 동의해야 함

(3) 대중의 신뢰 얻기
∙ 강력한 기술 메커니즘(워터마킹(Watermarking) 등)을 개발하여 사용자에게 본인의 콘텐츠가 AI로 생성된 경우 알 수 있도록 공지하고 AI 시스템의 기능, 한계, 적절·부적절한 사용 영역을 공개적으로 보고해야 함
∙ 부정적인 편견과 차별을 방지하고 프라이버시를 보호하는 등 AI 시스템이 초래할 수 있는 사회적 위험에 대한 연구를 우선적으로 진행할 것과 사회적 위험을 완화하는 AI를 출시할 것을 약속함


1) 관련 내용은 연구원 IP News 제2023-19권호 참조: https://www.kiip.re.kr/board/trend/view.do?bd_gb=trend&bd_cd=1&bd_item=0&field=searchTC&query=%EB%B0%B1%EC%95%85%EA%B4%80&po_item_gb=US&po_no=22024
2) https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/
3)  AI 모델 가중치는 네트워크의 은닉 계층 내에서 입력 데이터를 변환하는 신경망 내의 가중치(Weight)와 편향(Bias) 등의 파라미터(Parameter)를 의미하며 AI는 가중치를 계산한 뒤 더 큰 값을 산출함(출처: 경남 ICT 협회).