xAI Asks Court to Strip Alleged Grok Deepfake Nudes Victims of Anonymity

개요

xAI는 생성형 AI 챗봇 Grok을 통해 딥페이크 성적 이미지 피해를 입은 네 명의 원고에 대해 익명성을 해제하고 실명 공개를 법원에 요청하고 있습니다.

주요 내용

* xAI의 익명성 해제 요청: xAI는 Grok을 이용해 딥페이크 성적 이미지가 제작된 네 명의 원고(South Carolina Doe, South Carolina Roe, New Jersey Doe, Ohio Doe)의 실명 공개를 법원에 신청했습니다.
* 원고들의 피해 주장: 원고들은 딥페이크 이미지 제작으로 인해 심각한 정신적 고통을 겪고 있으며, 실명 공개 시 온라인상의 추가적인 괴롭힘과 도킹(doxing)을 우려하고 있습니다. 특히 South Carolina Roe는 아동 시절의 자신을 대상으로 한 딥페이크 성적 이미지와 관련하여 아버지의 아동 성착취물 관련 범죄 혐의가 드러나는 상황을 겪었다고 진술했습니다.
* Grok 챗봇의 딥페이크 이미지 생성 논란: 올해 1월, Grok 챗봇을 통해 수백만 건의 노골적인 이미지와 아동을 포함한 성적 이미지가 생성되었다는 주장이 제기되었으며, 이로 인해 전 세계적으로 공분을 샀습니다. Center for Countering Digital Hate의 분석에 따르면 Grok은 단 11일 만에 약 300만 건의 성적 이미지를 생성했으며, 이 중 23,000건이 아동을 포함했을 가능성이 있습니다.
* 소송 진행 상황: 해당 소송은 익명 원고 한 명으로 시작되었으나, 이후 네 명의 주요 원고로 확장되었습니다. xAI는 민사 소송법상 당사자 실명 공개 원칙을 근거로 들며, 소송 공개 시 원고들의 신원 공개에는 공익적인 측면이 있다고 주장합니다. 또한, 딥페이크 이미지 자체가 공개되지 않을 것이므로 개인 정보 보호 우려가 크지 않다고 주장합니다.
* 원고 측 반발: 원고 측 변호인은 xAI의 요청이 원고들을 협박하여 소송을 취하하게 하려는 의도이며, 이는 피해자들이 겪은 고통을 가중시키는 행위라고 비판했습니다. 또한, 법률 전문가들은 익명으로 소송을 제기해야 하는 경우 소송이 중단될 수 있으며, 이는 사법 투명성에는 거의 기여하지 못하면서 소송 제기를 위축시킨다고 지적합니다.
* 원고들의 입장: 네 명의 원고 모두 실명 공개 시 소송을 취하할 수 있다고 밝혔으며, 자신들의 개인 정보와 관련된 민감한 딥페이크 이미지에 대한 정보가 동의 없이 유포된 사건의 본질이 훼손될 수 있다고 주장합니다.

시사점

xAI의 이번 실명 공개 요청은 딥페이크 기술 악용으로 인한 피해자들이 자신의 피해 사실을 알리는 과정에서 겪을 수 있는 추가적인 고통과 위축을 야기할 수 있으며, 온라인상의 디지털 폭력 피해자 보호와 사법 절차에서의 익명성 보장 범위에 대한 중요한 논의를 제기합니다.