Google's SynthID AI watermarking tech is being adopted by OpenAI, Nvidia, and more

개요

Google의 AI 워터마킹 기술인 SynthID가 OpenAI, Nvidia 등 여러 기업에 채택되면서 AI 콘텐츠 식별 및 추적 역량을 강화하고 있습니다.

주요 내용

* SynthID의 기능 및 현황: SynthID는 Google의 AI 모델이 생성한 이미지 및 오디오 클립에 숨겨진 패턴을 삽입하여 AI 생성 여부를 식별하는 기술로, Gemini 앱에서 이미 지원 중입니다.
* SynthID 탐지 및 우회 시도: Google은 SynthID 패턴 제거 시도가 성공하지 못했다고 주장하며, 해당 기술의 무결성을 강조합니다.
* 파트너십 확대: Nvidia는 Cosmos 세계 기초 모델에, OpenAI는 GPT 2 이미지에 SynthID를 적용할 예정이며, Kakao와 ElevenLabs 또한 AI 콘텐츠에 SynthID를 통합할 계획입니다.
* AI 워터마킹의 한계: SynthID를 적용하지 않는 공개 모델이나 사용자가 직접 학습시킨 모델로 생성된 콘텐츠는 식별이 어려울 수 있습니다.
* SynthID 접근성 강화: Circle to Search, Lens, AI Mode 등 Google 제품군과 통합되어 Gemini 앱을 열지 않고도 SynthID 스캔이 가능해지며, Chrome에서도 탭 공유를 통해 Gemini를 이용한 스캔이 가능합니다.
* SynthID API 개발: 현재 공개 API는 없으나, Google은 신뢰할 수 있는 비즈니스 파트너를 위한 Gemini Enterprise Agent Platform의 일부로 AI 콘텐츠 탐지 API를 출시할 예정입니다.

시사점

SynthID의 광범위한 채택은 AI 생성 콘텐츠에 대한 투명성을 높이고 잠재적인 악용을 방지하는 데 기여할 것이며, API 출시를 통해 기업 수준에서의 AI 콘텐츠 관리가 용이해질 것으로 예상됩니다.