OpenAI Adopts Google's SynthID Watermark for AI Images with Verification Tool

개요

OpenAI는 AI 생성 이미지의 출처를 확인하고 신뢰도를 높이기 위해 Google의 SynthID 워터마킹 기술을 도입하고 C2PA 표준을 준수하며, 이를 검증할 수 있는 공개 도구를 선보였습니다.

주요 내용

* C2PA 표준 준수를 통한 신뢰 생태계 구축: OpenAI는 2024년부터 DALL·E 3, ImageGen, Sora 생성 이미지에 Content Credentials를 추가했으며, 콘텐츠 출처 및 진위 확인을 위한 오픈 기술 표준을 개발하는 C2PA(Coalition for Content Provenance and Authenticity)의 운영위원회에 참여하고 있습니다. OpenAI는 C2PA conformant generator product가 되어 플랫폼들이 자체 콘텐츠에 첨부하는 출처 정보를 안전하게 읽고 보존하며 전달할 수 있도록 지원합니다.
* Google SynthID를 활용한 다층적 출처 증명: C2PA 메타데이터는 콘텐츠의 생성 방식, 편집 이력 등 상세한 정보를 제공하지만, 업로드/다운로드 과정에서 손실되거나 변형될 수 있습니다. 이에 OpenAI는 ChatGPT, Codex, OpenAI API를 통해 생성되는 이미지에 Google DeepMind의 SynthID 기술을 적용하여, 메타데이터를 보완하는 보이지 않는 워터마킹 계층을 추가했습니다. SynthID는 스크린샷과 같은 변환 과정에서도 비교적 안정적으로 유지되는 내구성을 제공합니다.
* 공개 검증 도구 미리보기: OpenAI는 자체 생성 이미지에 포함된 Content Credentials 및 SynthID와 같은 출처 신호를 확인하여 해당 이미지가 OpenAI 도구를 통해 생성되었는지 검증할 수 있는 공개 도구의 미리보기를 제공합니다. 이 도구는 메타데이터와 워터마크가 감지되지 않는 경우에도 절대적인 결론을 내리지 않으며, 향후 여러 플랫폼에 걸쳐 검증을 지원하도록 확장될 예정입니다.

시사점

OpenAI의 C2PA 표준 준수, Google SynthID 도입, 공개 검증 도구 개발은 AI 생성 콘텐츠의 투명성을 높이고, 정보의 신뢰성을 강화하며, 사용자들의 미디어 이해 및 해석에 대한 자신감을 증진시키는 데 기여합니다.