A Court Has Ruled That Google Is Liable for False Statements Generated by AI Overviews

개요

독일 뮌헨 지방 법원은 구글의 AI Overviews 기능이 생성한 허위 진술에 대해 구글이 책임을 져야 한다는 예비 판결을 내렸습니다.

주요 내용

• 해당 판결은 두 출판사가 구글의 AI 생성 요약이 자신들을 근거 없이 의심스러운 사업 관행, 사기, 구독 관련 사기에 연루시킨다고 발견한 사건에서 비롯되었습니다.
• 법원은 구글의 AI가 잠재적으로 불법적인 관행으로 플래그가 지정된 다른 회사들의 정보와 원고들의 데이터를 결합하여 검색 엔진이 링크한 어떤 소스에도 나타나지 않는 연관성을 생성했다고 분석했습니다.
• 전통적인 검색 엔진은 제3자의 링크 목록을 단순히 표시하는 반면, 구글의 AI 도구는 인터넷에서 사용 가능한 정보의 오해를 바탕으로 "독립적이고 새롭고 실질적인 진술"을 생성한다고 법원은 판단했습니다.
• 법원은 AI 생성 요약의 기반이 되는 기술을 수정할 수 있는 유일한 주체인 구글이 해당 결과에 대해 책임을 져야 하며, 사용자가 AI 정보의 정확성을 독립적으로 확인하도록 권장하는 경고만으로는 책임을 면제받을 수 없다고 판시했습니다.
• 생성형 AI 시스템을 통합하는 검색 엔진의 경우, 제3자가 만든 콘텐츠에 대한 접근만 용이하게 하는 기존의 법적 보호가 적용되지 않는다고 보았습니다.
• AI 시스템이 생성한 결과는 알고리즘에 의해 설계, 훈련 및 관리된 결과물이므로 개인의 의견 표현이 아니며, 자유 발언 원칙에 따라 보호받을 수 없다고 결론 내렸습니다.
• 재판부는 해당 사건에서 명예 훼손으로 간주되는 많은 진술을 삭제하고 소송 관련 법률 비용의 80%를 부담할 것을 구글에 명령했습니다.

시사점

이 판결은 검색 엔진과 챗봇 운영 방식에 변화를 가져올 수 있으며, AI 생성 콘텐츠에 대한 기업의 법적 책임을 강화할 가능성이 있습니다.