xAI can’t deny Grok makes CSAM anymore. So it’s suing users.

개요

xAI는 사용자가 Grok AI 챗봇을 사용하여 아동 성 착취물(CSAM)을 생성했다고 주장하며 첫 번째 사용자를 고소했다.

주요 내용

* xAI는 테리 웨인 하우드(Terry Wayne Harwood)를 상대로 소송을 제기했으며, 그는 이미 CSAM 소지 및 유포 혐의로 체포된 바 있다.
* xAI의 주장에 따르면, 하우드는 여러 피해자의 비성적인 이미지를 벗기거나 변형하는 데 수개월 동안 두 개의 xAI 계정을 사용했다.
* 이 소송은 Grok AI를 사용하여 자신과 관련된 7,000개의 성적 이미지 수천 개를 생성한 후 다크 웹에 유포한 혐의로 피해자가 제기한 집단 소송에 이어졌다.
* 기존 집단 소송에서 피해자는 xAI가 경찰에 사용자 정보를 제공하여 가해자를 추적하고 위치를 파악하는 것을 거부했다고 주장했다.
* 미국 실종 및 착취 아동 센터(NCMEC) 보고서에 따르면 xAI의 사이버 신고의 90%가 법 집행 기관에서 조치할 수 없었는데, 이는 xAI가 사용자 정보를 포함하지 않았기 때문이다.
* 이전에는 일론 머스크가 Grok에서 생성된 CSAM의 사례를 본 적이 없다고 주장했지만, 이번 소송은 Grok이 CSAM을 생성할 수 있음을 인정하는 것으로 보인다.
* xAI는 소송에서 사용자만이 Grok에서 생성된 CSAM에 대해 책임을 져야 한다는 점을 강조하며, Grok을 사용자의 제어 하에 있는 "중립적인 도구"로 간주해야 한다고 주장했다.
* xAI의 이용 약관은 실제 사람의 이미지를 벗기거나 성적인 맥락에서 묘사하는 것을 금지하고 있으며, 아동의 이미지를 성적으로 묘사하거나 착취하는 것도 금지한다.
* xAI는 하우드가 이용 약관을 명백히 위반하고 보호 장치를 우회하기 위해 노력했으며, 이는 "오해의 소지가 있는 프롬프트"에 의존했기 때문이라고 주장했다.
* xAI는 하우드가 불법 콘텐츠를 생성할 수 있다는 것을 알게 된 후 Grok 사용을 중단했어야 한다고 주장하지만, 하우드가 어떠한 경고도 받지 않았다는 점은 명시하지 않았다.
* xAI는 법원이 하우드가 이용 약관을 위반하고 계약을 위반했다고 판결하고, 사용자가 Grok 생성 CSAM 및 NCII에 대해 전적으로 책임을 진다는 면책 조항을 인정하기를 희망한다.

시사점

이 소송은 AI 생성 콘텐츠의 책임 소재에 대한 중요한 법적 선례를 세울 수 있으며, xAI가 사용자에게 책임을 전가하려는 시도가 법원에서 받아들여질지 여부가 주목된다.