Google’s deepfake detector system used to debunk McConnell hoax pic

개요

Google의 AI 이미지 탐지 시스템인 SynthID가 Mitch McConnell 상원의원과 관련된 허위 AI 생성 이미지 검증에 성공적으로 활용되었습니다.

주요 내용

* Kentucky 상원의원 Mitch McConnell이 병상에서 고통스러워하는 모습으로 묘사된 AI 생성 이미지가 Reddit과 X(구 Twitter)에서 확산되었으나, Snopes와 같은 팩트체크 사이트에서 해당 이미지에 SynthID 워터마크가 있음을 발견하여 진위를 판별했습니다.
* SynthID는 2025년 Google I/O 개발자 컨퍼런스에서 출시된 시스템으로, AI 생성 이미지에 적용되는 보이지 않는 디지털 서명 역할을 합니다. 이 서명은 일반 사용자에게는 인지되지 않지만 SynthID 알고리즘으로는 탐지 가능합니다.
* SynthID 워터마크는 이미지 자체에 내장되어 스크린샷 등 다양한 방식으로 이미지가 공유되어도 유지되는 특징이 있습니다.
* SynthID 시스템의 주요 제한 사항은 이미지 생성 도구가 프로그램에 적극적으로 참여해야 워터마크가 적용된다는 점입니다.
* Gemini 모델은 프로그램 출시 시점부터 SynthID 워터마크를 포함했으며, OpenAI는 2026년 5월부터 악의적인 이미지 생성을 방지하기 위한 노력의 일환으로 참여했습니다. Anthropic은 이 프로그램에 참여하지 않습니다.
* 사용자는 Gemini 모델에 이미지를 요청하거나 OpenAI의 공개 이미지 검증 도구에 이미지를 업로드하여 SynthID 워터마크 포함 여부를 확인할 수 있습니다.

시사점

SynthID 시스템의 실제 사례를 통한 성공적인 딥페이크 탐지는 AI 생성 콘텐츠의 오용에 대응하는 기술적 진전을 보여주며, 앞으로 AI 생성 이미지의 신뢰성 확보에 기여할 수 있습니다.