∙ 2023년 11월 2일, 영국 정부는 ‘인공지능(AI) 안전 연구소(Artificial Intelligence Safety Institute, AISI)’를 설립했다고 선언함

- (배경) 프론티어 AI(Frontier AI)¹⁾는 경제 성장 및 생산성 촉진, 건강 및 웰빙 증진 등의 잠재력을 가지고 있는 동시에 허위 정보 생성, 사이버 공격, 화학무기 개발 등에 악용되어 사회적 피해를 야기할 수 있다는 위험이 있음
  ∙ 이에 2023년 4월, 영국 과학혁신기술부(Department for Science, Innovation and Technology, DSIT) 장관은 첨단 AI 시스템의 안전하고 신뢰할 수 있는 개발과 배포를 가능하게 하는 것을 목표로 ‘프론티어 AI 태스크포스(Frontier AI Taskforce)’를 발표하고 정부를 중심으로 세계적으로 인정받는 연구팀을 구성함

- (주요내용) ‘AI 안전 연구소’의 주요내용은 다음과 같음

(1) 개요
  ∙ DSIT 산하의 ‘프론티어 AI 태스크포스’에서 발전한 것으로 동 태스크포스가 시작한 안전 연구 및 평가를 지속할 것이지만 공공 부문에서 AI의 새로운 용도를 파악하고 영국의 AI 역량을 강화하는 등의 정책 기능은 DSIT 내에 유지됨
  ∙ 새로운 유형의 AI를 면밀히 조사·평가·테스트하여 각각의 새로운 모델이 무엇을 할 수 있는지 이해함으로써 AI 안전에 대한 전 세계의 지식을 증진시키고자 함
  ∙ 예측할 수 없을 정도로 빠르게 발전하는 AI에 대응하여 사람들을 안전하게 보호하는 방법에 대한 근본적인 연구를 수행할 것이며, 연구 결과를 전 세계에 공개함으로써 프론티어 AI의 기회와 위험에 대한 효과적인 글로벌 대응을 가능하게 할 계획임

(2) 미션 및 범위
  ∙ ‘공익을 위한 프론티어 AI의 안전’에 초점을 맞춘 최초의 국가 지원 기관으로, 주된 미션은 예상치 못한 AI의 급속한 발전으로 인한 영국과 인류의 놀라움을 최소화하는 것이며 이를 위해 프론티어 AI의 위험을 이해하고 거버넌스를 활성화하는 데 필요한 사회기술 인프라를 개발하는 데 주력할 것임
  ∙ 연구를 통해 영국 및 국제 정책 결정에 정보를 제공하고 거버넌스 및 규제를 위한 기술적 도구를 제공할 것이며, 기술적 도구의 예로는 민감 데이터로 시스템을 미세 조정하는 안전한 방법, 모델 훈련 및 위험 평가에 대한 집단적 의견과 참여를 요청하는 플랫폼, 훈련 데이터의 편향성을 분석하는 기술 등이 있음

(3) 핵심 기능
  ∙ 안전 관련 기능을 특성화하고 시스템의 안전과 보안을 이해하며 사회적 영향을 평가하는 것을 목표로 ‘첨단 AI 시스템의 개발 및 평가 수행’
  ∙ 다양한 탐색적 연구 프로젝트를 개시하고 외부 연구자를 소집하는 등 ‘기초적인 AI 안전 연구 추진’
  ∙ 정책 입안자, 국제 파트너, 민간 기업, 학계, 시민사회, 일반 대중 등 기타 국내 및 해외 주체와 연구소 간의 명확한 정보 공유 채널을 구축하는 등 ‘정보 교환 촉진’


1) 프론티어 AI(Frontier AI)란 공공 안전에 심각한 위험을 초래할 수 있을 만큼 위험한 기능을 보유할 수 있는 고도의 AI 기반 모델을 말함(출처: OpenAI).