Europeans Are About to Find Out How Entrenched AI Is in Their Daily Lives

개요

EU의 새로운 AI법이 발효됨에 따라, 유럽 시민들은 일상생활에서 AI 시스템과의 상호작용 또는 AI가 생성·수정·편집한 콘텐츠에 대해 고지받게 된다.

주요 내용

* 투명성 강화 규정: 2024년 8월 2일부터 효력을 발생하는 EU의 AI법(Artificial Intelligence Act)에 따라, AI 시스템과의 상호작용 또는 AI 생성/수정 콘텐츠에 대해 명확한 고지가 의무화된다.
* AI 사용 고지 대상:
* 딥페이크를 활용한 광고 및 기업 소셜 미디어 게시물에는 AI 생성물임을 명시하는 라벨이 부착된다.
* 챗봇 및 민원 처리 핫라인은 AI 기반임을 명확히 밝혀야 한다.
* 통화 중 감정 모니터링 및 불만 감지를 위해 머신러닝을 사용하는 콜센터는 해당 사실을 통화 시작 시 고지해야 한다.
* 예약, 서신 처리, 계약 협상 등 상업적 목적의 AI 기술 사용 또한 기업은 의무적으로 신고해야 한다.
* 위반 시 제재: 규정을 준수하지 않는 기업은 최대 1,500만 유로(약 1,700만 달러) 또는 전 세계 연간 매출액의 3% 중 높은 금액의 벌금이 부과된다.
* 모델 개발자 규제: OpenAI, Anthropic, Google DeepMind와 같은 명확한 AI 기업뿐만 아니라, Spotify의 AI 추천 기능이나 Adobe Photoshop의 AI 편집 기능 등 AI를 활용하는 기업 전반이 규제 대상이 되며, 유럽연합 집행위원회 산하 AI 사무소의 감시를 받는다.
* 잠재적 문제점: 과도한 라벨링으로 인한 정보 과부하 및 '배너 블라인드니스(banner blindness)' 현상으로 인해 AI 콘텐츠 라벨링의 의미가 퇴색될 수 있다는 비판도 제기된다.
* GDPR과의 유사점 및 차이점: 2018년 발효된 GDPR과 유사하게, 새로운 AI법은 소비자에게 AI 사용에 대한 이해와 통제 권한을 부여하지만, GDPR이 '쿠키 피로감'을 야기했던 것처럼 AI법 역시 기술적 규정의 도입 및 시행에 있어 초기 혼란이 예상된다.
* 유예 기간 및 기술적 과제: AI 모델 제공업체는 2024년 12월까지 합성 오디오, 이미지, 비디오, 텍스트를 기계 판독 가능한 형식으로 라벨링하여 AI 생성 콘텐츠를 탐지할 수 있도록 해야 하는 유예 기간이 적용된다. AI 사무소의 지침 발표 지연 및 각 회원국의 감독 체계 구축 단계 차이로 인해 초기 시행이 균일하지 않을 수 있다.

시사점

새로운 EU AI법은 AI 기술 사용에 대한 투명성을 획기적으로 증대시키며, 기업들은 AI 사용에 대한 공개 또는 기존 시스템으로의 회귀라는 선택의 기로에 서게 될 것이다.