∙ 2023년 11월 26일, 미국 국토안보수사국(HSI) 산하 사이버 보안 및 인프라 보안국(CISA)은  영국 국가사이버보안센터(NCSC)와 공동으로 ‘인공지능(AI) 시스템 개발 가이드라인(Guidelines for Secure AI System Development)’¹⁾을 발표함

- (배경) 2023년 10월 30일, 미국 백악관(WH)은 ① AI 안전 및 보안에 대한 새로운 표준 확립, ② 미국 국민의 개인정보보호, ③ 형평성 및 시민권 증진, ④ 소비자 및 근로자 옹호, ⑤ 혁신 및 경쟁 촉진, ⑥  미국의 글로벌 리더십 발전 등의 내용이 담긴 AI 행정명령²⁾을 발표함

  ∙ 2023년 11월 14일, 미국 CISA는 AI의 안전한 개발 및 구현을 보장하고자 최초의 ‘AI 로드맵’을 발표하였으며³⁾ 2023년 11월 2일에는 영국 정부가 ‘AI 안전 연구소(AISI)’를 설립하는 등 전 세계적으로 AI의 안전성과 관련된 정책 등이 개발되고 있음⁴⁾
 
- (주요내용) 동 가이드라인의 주요내용은 다음과 같음

  ∙ (개요) AI와 사이버 보안의 교차점을 다루는 데 중요한 진전을 이루기 위해 AI를 사용하는 모든 시스템 개발자가 개발 프로세스의 모든 단계에서 적합한 정보에 입각한 사이버 보안 결정을 내릴 수 있도록 지원
  ∙ (의의) 전 세계 21개 기관 및 부처와 협력하여 구축되었으며, 전 세계적으로 합의된 최초의 가이드라인
  ∙ (대상) 호스팅 모델 및 외부 애플리케이션 프로그래밍 인터페이스(API)를 사용하는 AI 시스템 제공업체 및 기타 이해관계자(데이터 과학자, 개발자, 관리자, 의사 결정자 포함) 등
  ∙ (구성) AI 시스템 개발 수명주기 내에서 ① 보안 설계, ② 보안 개발, ③ 보안 배치(Deployment), ④ 보안 운영 및 유지관리의 4가지 주요 영역으로 분류되며 각 영역에서는 조직의 AI 시스템 개발 프로세스에 대한 사이버 보안 위험을 줄이는 데 도움이 되는 고려사항과 완화 조치를 강조
  ∙ (기타) CISA가 오랫동안 구축해 온 보안 설계 원칙(Secure by Design principles)을 준수하는 동시에 AI 시스템 개발을 위한 필수 권장 사항을 제공


1) 동 가이드라인의 원문은 다음의 링크 참조: https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf
2) 동 행정명령의 자세한 내용은 다음의 링크 참조: https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
3) 관련 내용은 연구원 IP News 제 2023-47권호 참조: https://www.kiip.re.kr/board/trend/view.do?bd_gb=trend&bd_cd=1&bd_item=0&po_item_gb=US&po_no=22454
4) 관련 내용은 연구원 IP News 제 2023-46권호 참조: https://www.kiip.re.kr/board/trend/view.do?bd_gb=trend&bd_cd=1&bd_item=0&po_item_gb=EU&po_no=22433