It’s make or break time for AI labeling systems

개요

SynthID와 C2PA Content Credentials는 AI 생성 콘텐츠의 출처를 투명하게 표시하는 기술로, 최근 가장 큰 확장을 앞두고 있으며 AI 허위 정보 문제 해결에 중요한 역할을 할 것으로 기대됩니다.

주요 내용

* SynthID 및 C2PA의 확장: Google은 I/O 컨퍼런스에서 SynthID 마커 확인 기능을 Chrome 및 검색 엔진에 통합한다고 발표했습니다. 이는 웹 브라우저와 검색 엔진의 높은 시장 점유율로 인해 AI 검증 도구가 더 많은 사용자에게 노출될 기회를 제공합니다.
* 통합 검증 인터페이스: Google의 검증 인터페이스는 이제 SynthID뿐만 아니라 C2PA 정보(콘텐츠 생성 방식 및 AI 도구 사용 여부에 대한 메타데이터)도 확인할 수 있게 됩니다. 이를 통해 사용자는 여러 애플리케이션을 오갈 필요 없이 단일 인터페이스에서 이미지의 신뢰성을 검증할 수 있습니다.
* OpenAI의 참여: OpenAI는 ChatGPT, Codex, OpenAI API로 생성된 이미지에 SynthID를 임베딩할 예정입니다. 이미 C2PA 메타데이터를 포함하고 있지만, 일부 플랫폼에서는 제거되는 경우가 있습니다.
* C2PA의 한계: OpenAI는 C2PA 메타데이터가 쉽게 제거될 수 있으며, 메타데이터가 없다고 해서 반드시 AI로 생성되지 않은 콘텐츠라고 단정할 수 없다는 점을 명시했습니다. C2PA는 업계 표준으로 간주되지만, 실제 AI 허위 정보 검증에 효과적으로 사용되는 사례는 드뭅니다.
* SynthID의 강점: SynthID는 쉽게 제거되지 않아 C2PA보다 더 견고한 것으로 평가되며, 딥페이크 탐지에서 fact-checkers와 미디어 기관들이 사용한 사례들이 있습니다.
* 협력의 중요성: SynthID와 C2PA는 협력하여 더 넓은 안전망을 구축할 수 있으며, 업계 내에서 표준 전쟁보다는 협력이 중요합니다. Google은 SynthID의 신뢰성을 입증하여 C2PA의 주목도를 가져올 기회를 얻었습니다.
* Meta의 C2PA 적용: Meta는 Instagram에서 촬영된 이미지에 C2PA 메타데이터를 사용하여 태그를 지정할 예정입니다. 이는 사용자가 AI 생성 콘텐츠와 실제 사진을 구분하는 데 도움을 줄 수 있습니다.
* AI 라벨링의 어려움: Instagram의 AI 생성 콘텐츠 라벨링 시도가 과거 논란을 일으킨 바 있어, 라벨링 시스템의 성공 여부는 아직 불확실합니다.
* 근본적인 문제: SynthID와 C2PA는 워터마크가 추가된 경우에만 감지할 수 있으며, 악의적인 딥페이크 생성에 사용되는 오픈소스 모델들이 이러한 시스템을 채택할 가능성은 낮습니다.

시사점

SynthID와 C2PA의 광범위한 채택 및 통합은 AI 생성 콘텐츠의 투명성을 높이고 온라인상의 허위 정보 확산을 억제하는 데 중요한 진전을 가져올 수 있지만, 이러한 기술이 실제 현장에서 얼마나 효과적으로 적용될지는 아직 지켜봐야 합니다.