∙ 2023년 12월 9일, 유럽 의회(EP)는 의회 및 이사회(Council) 협상단이 ‘인공지능법(AI Act)’에 대한 잠정 합의에 도달했다고 발표함

- (개요) 동 법은 2021년 4월 유럽 집행위원회(EC)기 제안한 것으로 기본권, 민주주의, 법치, 환경적 지속가능성을 고위험 인공지능(AI)으로부터 보호하는 동시에 혁신을 촉진하고 유럽을 해당 분야의 리더로 만드는 것을 목표로 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 설정함

- (주요내용) 동 합의의 주요내용은 다음과 같음

(1) 금지된 응용
  ∙ AI의 특정 응용이 시민의 권리(Citizens’ right)와 민주주의에 대한 잠재적 위협을 야기함을 인식하고 다음을 금지하는 것에 합의함
   ① 민감한 특성(예: 정치적, 종교적, 철학적 신념, 성적 지향, 인종)을 사용하는 생체 분류 시스템
   ② 안면 인식 데이터베이스를 생성하기 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 비표적적으로 스크래핑하는 행위
   ③ 직장 및 교육기관에서의 감정 인식
   ④ 사회적 행동 또는 개인적 특성에 기반한 사회적 점수 매기기
   ⑤ 인간의 자유의지를 우회하기 위해 인간의 행동을 조작하는 AI 시스템
   ⑥ 사람의 취약점(나이, 장애, 사회적 또는 경제적 상황)을 악용하는데 사용되는 AI

(2) 법 집행의 예외사항
  ∙ 사법 당국의 사전 허가와 엄격하게 정의된 범죄 목록을 위해 법 집행 목적으로 공개적으로 접근할 수 있는 장소에서 생체 인식 시스템(RBI)을 사용하는 것에 대한 일련의 안전 조치 및 예외사항에 합의함
  ∙ ‘사후 원격(Post-remote)’ RBI는 유죄 판결을 받았거나 심각한 범죄를 저지른 것으로 의심되는 사람을 대상으로 하는 표적 검색에 엄격히 사용됨
  ∙ ‘실시간(Real-time)’ RBI는 엄격한 조건 하에 다음과 같은 목적으로 시간과 장소에 제한을 두고 사용됨
   ① 피해자(납치, 인신매매, 성 착취)에 대한 표적 검색
   ② 구체적이고 현존하는 테러 위협의 예방
   ③ 규정에 언급된 특정 범죄(예: 테러, 인신매매, 성 착취, 살인, 납치, 강간, 무장 강도, 범죄 조직 가담, 환경 범죄) 중 하나를 저지른 것으로 의심되는 사람의 위치 파악 또는 신원 확인

(3) 고위험 시스템에 대한 의무
  ∙ 건강, 안전, 기본권, 환경, 민주주의, 법치주의에 대한 중대한 잠재적 해악으로 인해 고위험군으로 분류된 AI 시스템에 대한 명확한 의무에 합의함
  ∙ 구체적으로 보험 및 은행 부문에서 필수 기본권(Fundamental Right) 영향 평가를 하도록 하고, 선거 결과와 유권자 행동에 영향을 미치는 데 사용되는 AI 시스템을 고위험으로 분류함
  ∙ 시민들은 AI 시스템에 대한 불만을 제기하고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대해 설명을 받을 권리가 있음

(4) 범용 AI 시스템을 위한 가드레일
  ∙ AI 시스템이 수행할 수 있는 광범위한 작업과 그 기능의 빠른 확장을 고려할 때, 범용 AI 시스템과 그 기반이 되는 AI 모델은 EP가 제안했던 바와 같이 투명성 요건을 준수해야 한다는 데 동의함
  ∙ 여기에는 기술 문서 작성, EU 저작권법(EU Copyright Law) 준수, 교육에 사용된 콘텐츠에 대한 자세한 요약본 배포 등이 포함됨

(5) 혁신 및 중소기업 지원 조치
  ∙ 기업(특히 중소기업)들이 가치 사슬을 장악하고 있는 대기업들의 부당한 압력 없이 AI 솔루션을 개발할 수 있도록 보장하고자 함
  ∙ 이를 위해 시장 출시 전에 혁신적인 AI를 개발하고 훈련하기 위해 국가 당국이 설립한 이른바 규제 샌드박스¹⁾와 실제 세계 테스트(Real-world-testing)를 장려함

(6) 제재
  ∙ 동 법을 준수하지 않을 경우, 위반 사항과 회사 규모에 따라 3,500만 유로(한화 약 495억 원) 또는 전 세계 매출액의 7%, 750만 유로(한화 약 106억 7,152만 원) 또는 매출의 1.5%에 이르는 벌금(Fine)이 부괴될 수 있음


1) 규제 샌드박스(Regulatory Sandbox)는 사업자가 신기술을 활용한 새로운 제품과 서비스를 일정 조건(기간·장소·규모 제한) 하에서 시장에 우선 출시해 시험·검증할 수 있도록 현행 규제의 전부나 일부를 적용하지 않는 것을 말함(출처: 규제정보포털).