YouTube expands its AI likeness detection technology to celebrities

개요

YouTube가 AI 생성 콘텐츠, 특히 딥페이크로부터 유명인사를 보호하기 위해 '유사성 탐지' 기술을 엔터테인먼트 업계로 확대 적용한다.

주요 내용

• 유사성 탐지 기술: AI로 생성된 딥페이크와 같이 특정 인물의 얼굴이나 목소리를 시뮬레이션한 콘텐츠를 탐지하는 기술이다.
• 콘텐츠 ID 시스템과의 유사성: 기존 YouTube의 저작권 보호 콘텐츠 탐지 시스템인 '콘텐츠 ID'와 유사하게 작동하지만, 대상이 모방된 얼굴이라는 점에서 차이가 있다.
• 확대 적용 대상: 당초 정치인, 정부 공무원, 언론인 등으로 확대 적용되었으며, 이제는 연예 기획사, 매니지먼트 회사 및 이들이 대표하는 유명 인사까지 포함된다.
• 지원 기관: CAA, UTA, WME, Untitled Management와 같은 주요 연예 기획사들이 본 기술 개발에 대한 피드백을 제공하며 지지 의사를 표명했다.
• 작동 방식: 등록된 참가자의 얼굴과 시각적으로 일치하는 AI 생성 콘텐츠를 탐지하며, 연예인이 직접 YouTube 채널을 운영하지 않아도 이 기술을 활용할 수 있다.
• 사용자 선택권: 콘텐츠 발견 시, 사용자는 프라이버시 정책 위반으로 삭제 요청, 저작권 삭제 요청 또는 별도의 조치를 취하지 않는 옵션을 선택할 수 있다.
• 콘텐츠 제외 기준: YouTube는 패러디 및 풍자 콘텐츠는 자체 규정에 따라 허용될 수 있음을 명시하며 모든 AI 생성 콘텐츠를 삭제하지는 않는다.
• 향후 계획: 향후 이 기술은 오디오 탐지까지 지원하도록 확장될 예정이다.
• 정부 차원 지원: YouTube는 워싱턴 D.C.의 'NO FAKES Act'를 지지하며, 개인의 음성과 시각적 유사성을 무단으로 재현하는 AI 사용을 규제하려는 연방 차원의 노력에도 참여하고 있다.
• 실질적 효과: 현재까지 이 도구를 통해 관리된 AI 딥페이크 삭제 건수는 '매우 적은' 수준이라고 밝혔다.

시사점

YouTube의 유사성 탐지 기술 확대는 디지털 시대에 공인들의 초상권 및 명예를 보호하는 중요한 수단으로 작용하며, AI 기술의 윤리적 사용에 대한 논의를 촉진할 것으로 보인다.