Anthropic says it will watermark text generated by its AI models

개요

Anthropic은 EU AI Act의 투명성 코드 준수를 위해 Claude를 포함한 AI 모델에서 생성된 텍스트에 워터마크를 적용할 예정입니다.

주요 내용

• EU AI Act의 투명성 코드는 8월 2일부터 발효되어 AI 생성 또는 편집된 콘텐츠를 다른 시스템이 식별할 수 있는 방식으로 표시하도록 요구합니다.
• 8월 2일 이후 출시되는 모든 Anthropic 모델은 컴퓨터 생성 텍스트 및 파일에 대한 워터마킹 기술을 자동으로 포함할 것입니다.
• 파일의 경우, Anthropic은 C2PA 오픈 표준을 사용할 것입니다.
• Anthropic은 이전 모델에 대한 지원도 확장할 예정이며, 워터마크는 사용자가 텍스트를 복사하여 붙여넣을 때 함께 전송될 것입니다.
• 워터마크는 텍스트의 일부이므로 복사 및 붙여넣기를 통해 다른 곳으로 이동하며 일부 편집을 거쳐도 유지될 수 있습니다.
• 워터마킹은 모델 레벨에서 적용되어 어떤 Claude 제품이나 서비스를 통해 텍스트가 생성되든 존재하게 됩니다.
• 워터마크 제거를 위해 사용자가 어느 정도의 편집을 해야 하는지는 명확하지 않습니다.
• 워터마킹은 Claude 플랫폼 API, Claude, Claude Code, Claude Cowork, Claude Tag와 같은 다양한 제품에 적용됩니다.
• 사용자들의 반발과 규제 조사를 피하기 위해 플랫폼들은 AI 생성 콘텐츠에 워터마크를 적용하는 데 속도를 내고 있습니다.
• AI 음악 플랫폼 Suno는 법적 문제 발생 후 플랫폼에서 생성된 트랙에 표시를 한다고 밝혔습니다.
• 뉴스레터 서비스 Substack은 AI 생성 콘텐츠를 플래그하기 위해 Pangram과 협력했습니다.
• Substack의 CEO Chris Best는 AI를 사용하여 콘텐츠를 생성하는 사람들을 지칭하는 용어인 'Claudefishing'을 언급했습니다.
• Anthropic 외에도 Black Forest Labs, Google, Meta, Microsoft, OpenAI, Synthesia와 같은 회사들도 EU 코드 준수를 약속했습니다.

시사점

Anthropic의 AI 생성 텍스트 워터마킹은 EU 규제 준수 및 AI 콘텐츠의 투명성 확보를 위한 업계의 노력을 보여주며, 이는 향후 AI 기술 활용 및 규제 환경에 영향을 미칠 것으로 예상됩니다.