Claude will apply invisible watermarks to AI text and images

개요

Anthropic이 유럽연합(EU)의 AI 투명성 규정 준수를 위해 Claude에서 생성된 텍스트와 이미지에 기계가 읽을 수 있는 워터마크를 적용하기 시작할 예정이다.

주요 내용

• 생성된 텍스트에는 눈에 보이지 않는 워터마크가 내장되며, 생성된 파일에는 지원되는 경우 디지털 서명된 출처 메타데이터가 포함된다.
• 이러한 변경 사항은 인간의 눈에는 보이지 않지만, 콘텐츠가 Claude 모델에 의해 생성되었는지 여부를 파악하는 데 도움을 줄 것이다.
• EU의 AI Act에 따른 새로운 AI 라벨링 및 투명성 의무는 8월 2일에 발효되었으며, 해당 날짜 이전에 출시된 기존 AI 제품에는 4개월의 규정 준수 유예 기간이 적용된다.
• 따라서 Anthropic은 새로운 Claude 모델은 출시 즉시 AI 생성 콘텐츠를 표시하지만, 기존 모델에 대한 지원은 진행 중이라고 밝혔다.
• 기계가 읽을 수 있는 표시는 Claude Platform (API), Claude, Claude Code, Claude Cowork, Claude Tag를 포함한 지원되는 Claude 모델에 전 세계적으로 적용된다.
• 이미지의 경우 C2PA 표준이 적용되며, 텍스트 워터마킹 프로세스에 대한 세부 정보는 아직 명확하지 않다.
• 텍스트 워터마크는 텍스트 생성 시 직접 삽입되어 의미, 품질 또는 가독성을 변경하지 않으며, 복사 및 붙여넣기 또는 일부 편집 후에도 유지될 수 있다.
• 워터마킹은 모델 수준에서 적용되어 어떤 Claude 제품이나 인터페이스를 통해서든 텍스트에 존재하게 된다.
• Anthropic은 사용자와 제3자가 Claude 생성 콘텐츠에 내장된 워터마크 및 출처 메타데이터를 감지할 수 있도록 지원하는 시스템을 개발 중이며, 향후 기술 문서에서 세부 정보를 공유할 예정이다.
• C2PA 메타데이터를 감지하는 도구는 이미 존재하지만, Claude 생성 파일과 호환되는지는 명확하지 않다.

시사점

AI 생성 콘텐츠의 투명성을 높이고 소비자가 AI 생성 콘텐츠를 식별하는 데 도움을 주는 조치이며, AI 기술의 책임감 있는 개발 및 사용을 위한 중요한 진전으로 볼 수 있다.