∙ 2024년 3월 28일, 미국 백악관(WH) 산하 예산관리국(Office of Management and Budget, OMB)은 미국 연방정부 및 기관(이하, 연방기관)들이 업무에 인공지능(AI)을 활용할 경우 그 내용을 투명성 있게 공개하는 한편, 부작용 및 기타 영향에 대해 평가 및 모니터링을 하도록 하는 신규 정책¹⁾을 발표함

- (배경) 2023년 10월 30일, 백악관은 ① AI 안전 및 보안에 대한 새로운 표준 확립, ② 미국 국민의 개인정보보호, ③ 형평성 및 시민권 증진, ④ 소비자 및 근로자 옹호, ⑤ 혁신 및 경쟁 촉진, ⑥ 미국의 글로벌 리더십 발전 등의 내용이 담긴 ‘안전하고 보안적이며 신뢰할 수 있는 AI 행정명령’²⁾을 발표함
  ∙ 미국 정부는 동 행정명령을 통해 ① 미국 기업들을 대상으로 자사가 개발한 AI가 국가안보나 경제 및 건강상 위험을 초래할 경우 이를 정부에 통지하고 ② AI에 대한 안전 테스트 결과 및 주요 정보를 정부와 공유하게 함

- (주요내용) 이번 정책은 그간 AI 개발 및 활용의 안전성에 주목했던 AI 행정명령과 달리 AI의 위험을 완화시키고 연방기관의 업무 상 AI 활용의 안전성에 중점을 두고자 수립되었으며 주요내용은 다음과 같음
(1) AI 사용으로 인한 위험 해결
  ∙ 2024년 12월 1일까지 미국의 연방기관은 AI를 사용할 경우 국민의 권리나 안전에 미치는 영향을 최소화하는 방식으로 구체적인 안전장치(safeguards)를 구현해야 함
  ∙ 이러한 안전장치는 보건, 교육, 고용, 주택 등 광범위한 AI 응용(application)³⁾에 적용되며 ① AI가 대중에게 미치는 영향을 안정적으로 평가, 테스트 및 모니터링하고, ② 알고리즘 차별 위험을 완화시키며, ③ 정부가 AI를 사용하는 방식을 대중에게 투명하게 제공하기 위한 다양한 의무적 조치가 포함됨
  ∙ 연방기관은 이러한 안전장치를 적용할 수 없는 경우, 기관 경영진이 국민의 안전 또는 권리에 대한 전반적인 위험을 증가시키거나 기관 운영에 용납할 수 없는 장애가 초래된 정당한 이유가 없는 한, AI 시스템 사용을 중단해야 함

(2) AI 사용의 투명성 확대
  ∙ 연방기관이 AI 사용 현황을 공개하도록 요구하는 동시에 AI 사용과 관련하여 투명하게 개선할 것을 요구하며 세부 지침 초안⁴⁾도 함께 공개함
  ∙ 국민의 권리 또는 안전에 영향을 미치는 AI 사용 사례와 기관이 AI를 사용할 경우 관련 위험을 어떻게 해결하고 있는지 파악하는 것을 포함하여 AI 사용 사례에 대한 확장된 연간 인벤토리(annual inventories)를 공개함
  ∙ 민감성 사유 등으로 공개 목록에서 보류된 기관의 AI 사용 사례에 대한 결과가 대중이나 정부 운영에 위험을 초래하지 않는 경우에 한해 동 정책의 모든 요소에 대한 준수 및 면제 사유 등을 공개하고 정부 소유의 AI 코드, 모델 및 데이터를 공개함

(3) 책임감 있는 AI 혁신 추진
  ∙ 기후 위기 해결 및 자연재해 대응, 공중 보건 향상, 공공 안전 보호 등 사회의 현안 과제를 해결하기 위해 AI 기술이 사용되고 있는 가운데, 동 정책은 연방기관의 책임 있는 AI 혁신을 가로막는 불필요한 장벽을 제거하는 것이 목표임
  ∙ 이에 OMB는 각 기관이 적절한 안전장치를 마련하여 책임감 있게 생성형 AI를 실험하도록 권장함

(4) AI 인력 증대
  ∙ 미국 연방기관은 AI 관련 인재를 확충하고 숙련도를 높여야 하며 각 기관은 AI 위험 관리, 혁신, 거버넌스를 발전시키기 위해 인력을 적극적으로 강화할 예정임
  ∙ 2024년 여름까지 미국 바이든(Biden) 정부는 AI의 신뢰할 수 있고 안전한 사용을 촉진하기 위해 AI 전문가 100명을 채용할 계획이며 미국 전역에서 AI 역할을 위한 채용 박람회를 4월 18일에 개최할 예정임
  ∙ 미국 인사관리처(Office of Personnel Management)는 연방정부 내 AI 인재의 중요성을 강조하고 고용 유지를 개선하기 위해 AI 역할에 대한 급여 및 휴가 유연성에 관한 지침을 발표하였으며 2025 회계연도 대통령 예산안에는 정부 전체 AI 교육 프로그램을 확대하기 위한 500만 달러(한화 약 69억 원)의 추가 예산이 포함됨

(5) AI 거버넌스 강화
  ∙ 미국 연방기관들은 AI 사용을 조정할 ‘최고 AI 책임자(Chief AI Officer)’를 지정해야 함
  ∙ 2023년 12월부터 OMB와 과학기술정책실(Office of Science and Technology Policy)은 최고 AI 책임자 협의회(Chief AI Officer Council)에 각 책임자들을 소집하고 있으며 연방기관들은 AI 사용을 조정할 최고 AI 책임자를 지정해야 함
  ∙ 또한 차관보(Deputy Secretary) 및 이에 상응하는 직책을 가진 자가 의장을 맡는 AI 거버넌스 위원회(AI Governance Boards)를 설립하여 전반적인 AI 사용을 조정하고 관리할 예정임

- (관련내용) 미국 카멀라 해리스(Kamala Harris) 부통령은 “향후 연방기관들이 AI 도구를 사용할 경우 그 도구들이 미국인의 권리 및 안전을 위험하게 만들지 않는다는 사실을 입증하도록 요구할 것이다.”고 밝힘


1) Advancing Governance, Innovation, and Risk Management for Agency Use of AI. 동 정책의 원문은 다음의 링크 참조: https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf