Legal fail: Don’t use AI to sue Facebook users for calling you a bad date

개요

AI를 활용한 법률 소송 시도에서 허위 인용이 발견되어 변호사들이 제재 위기에 처했으며, 이 사건은 AI의 부정확한 정보 생성 가능성과 책임 소재에 대한 중요한 논의를 촉발했다.

주요 내용

* AI 활용 소송 시도와 문제 발생: 시카고의 페이스북 그룹 'Are We Dating the Same Guy'에 올라온 자신에 대한 비판적인 게시물을 삭제하기 위해 메타(Meta)를 상대로 소송을 제기한 남성(Nikko D’Ambrosio)의 사건에서, 소송을 대리한 MarcTrent.AI라는 법무법인이 AI를 사용하여 소장을 작성했으나 허위 인용이 다수 발견되었다.
* 허위 인용과 제재 가능성: 이 사건은 1심에서 기각되었으나 항소심에서도 패소했으며, 항소심 법원은 사건이 명백히 근거가 없고, 생성형 AI 오용의 흔적이 보이는 허위 인용 및 오류로 가득 차 있다고 지적하며 변호사들에게 제재를 가할 필요성을 제기했다.
* AI 법무법인의 주장: MarcTrent.AI는 AI를 활용하여 법률 기회를 발굴하고 성공률을 높인다고 주장했으며, 창립자는 AI 기술팀이 초기 소장을 작성했다고 확인했다. 그는 AI 활용을 통해 메타와 같은 거대 기업에도 대항할 수 있다고 자신감을 보였다.
* 원고의 소송 근거 및 법원의 판단: 원고는 자신을 비방하고 도킹(doxing)했다는 주장과 함께 메타가 게시물을 홍보하여 이익을 얻었다고 주장했으나, 법원은 원고가 구체적인 피해를 입증하지 못했고 게시물의 진실성에 대한 다툼도 없었다는 점 등을 들어 이러한 주장을 받아들이지 않았다.
* AI 오용의 심각성: 법원은 생성형 AI를 통해 생성된 허위 인용이 포함된 법률 서류 제출은 용납될 수 없으며, 이는 변호사로서의 기본적인 직무 태만이라고 강조했다. AI를 사용했는지 여부와 관계없이 허위 정보를 제출하는 행위 자체에 대해 제재가 가해질 수 있다.
* 기존 판례 및 법적 보호: 인터넷 법률 전문가들은 이러한 유형의 소송이 이전에도 있었으나 대부분 실패했으며, 페이스북 그룹 내의 게시물은 종종 수정헌법 제1조에 의해 보호되는 의견으로 간주되어 면책된다고 설명했다.

시사점

AI 기술이 법률 분야에 도입되는 과정에서 발생할 수 있는 부정확성 문제와 이에 대한 법적 책임 소재를 명확히 하는 것이 중요하며, 변호사들은 AI 도구를 사용할 때 결과에 대한 검증 책임을 엄격히 부담해야 한다.