∙ 2024년 11월 14일, 미국 국토안보부(Department of Homeland Security, DHS)는 미국의 중요 인프라에서 인공지능(AI)의 안전하고 신뢰성 높은 개발 및 이용을 위한 권장사항을 담은 ‘중요 인프라에서의 AI 역할 및 책임 프레임워크’¹⁾를 발표함

- (개요) 동 프레임워크는 AI 공급망의 각 계층에 있는 기관 및 단체들(클라우드 및 컴퓨팅 인프라 제공업체 (compute providers), AI 개발자, 중요 인프라 소유자 및 운영자, 소비자를 옹호 및 보호하는 시민 사회와 공공 부문 단체 등)을 위해 개발됨

- (주요내용) 동 발표의 주요내용은 다음과 같음
∙ DHS는 AI가 지진을 신속하게 감지하고 가정에 우편물을 분류 및 배포하는 등 미국의 중요 인프라에서 AI 기술의 도입이 진전되는 한편, 악의적인 행위자에 의한 시스템의 장애나 조작 등 AI 기술의 취약성에 기인한 혼란이 발생할 경우 미국의 국가안보에 치명적인 결과를 초래할 수 있다는 우려를 제기함
∙ 현재 중요 인프라에 대한 AI 기술의 중요성이 커지고 있음에도 불구하고 포괄적인 규정은 존재하지 않는 실정임
∙ 이에 DHS는 중요 인프라의 AI 안전 및 보안 취약성을 크게 ① AI를 이용한 공격, ② AI 시스템을 겨냥한 공격, ③ AI 시스템의 설계 및 개발의 결함 등으로 분류한 후, 각 중요 인프라의 이해관계자가 이러한 취약성에 대처하기 위해 해야 할 역할 등에 대한 지침을 동 프레임워크를 통해 제시함



∙ 동 프레임워크가 미국의 중요 인프라에서 AI의 개발, 사용, 배포와 관련된 이해관계자들에 의해 채택되고 실행될 경우, ① AI 안전 및 보안 운영을 강화, ② 중요 서비스 제공을 개선, ③ 기관 간의 신뢰와 투명성을 강화, ④ 시민권과 시민의 자유를 보호, ⑤ 중요 인프라가 신흥 기술을 책임감 있게 배포할 수 있도록 AI 안전 및 보안 연구를 발전시킬 수 있을 것으로 예측됨