Woman claims her stepfather used Grok to transform childhood photo into explicit imagery

개요

xAI의 챗봇 Grok이 아동 성적 학대 자료(CSAM) 생성에 사용되었다는 주장이 제기되었으며, 이는 3명의 테네시 청소년이 제기한 소송에 한 여성이 추가로 합류하며 확산되었습니다.

주요 내용

* 한 여성(Jane Doe 4)은 자신의 의붓아버지가 Grok을 사용하여 11살 때 찍은 사진을 조작해 7,000개 이상의 노골적인 이미지를 생성했다고 주장했습니다.
* 이 여성은 해당 이미지가 발견된 지 이틀 후 의붓아버지가 스스로 목숨을 끊었다고 밝혔습니다.
* 소송을 제기한 청소년들은 xAI(현재 SpaceX의 일부)가 Grok을 이용한 실제 인물(미성년자 포함)의 노골적인 이미지 생성을 방지하기 위한 기본적인 예방 조치를 취하지 않았다고 비난했습니다.
* 올해 초 X(구 트위터)에서는 Grok이 생성한 수백만 개의 성적 이미지들이 유포되었습니다.
* 소송은 집단 소송 자격 인정을 요구하고 있습니다.

시사점

Grok과 같은 AI 도구에 대한 무제한적인 접근이 확산되면서 아동 성적 학대와 같은 심각한 문제를 야기할 수 있다는 우려가 커지고 있으며, AI 개발사의 예방 조치 미흡에 대한 법적 책임이 제기되고 있습니다.