The Pope’s Warnings About AI Were AI-Generated, a Detection Tool Claims

개요

Pangram Labs의 AI 탐지 소프트웨어가 교황의 X(구 트위터) 계정 및 다양한 소셜 미디어 플랫폼의 게시물에서 AI 생성 콘텐츠를 탐지했다고 주장한다.

주요 내용

* Pangram Labs는 99.98%의 정확도와 10,000분의 1의 오탐율을 주장하는 AI 탐지 소프트웨어를 개발했으며, 이는 웹사이트, 소셜 미디어, 블로그 게시물 등을 실시간으로 스캔하여 AI 생성 여부를 판별한다.
* AI 생성 콘텐츠는 저널리즘과 소셜 플랫폼을 저해하며, Stanford University 연구에 따르면 2025년 신규 웹사이트의 1/3 이상이 AI가 부분적으로 생성한 텍스트를 포함한다.
* Pangram Labs의 CEO Max Spero는 자사의 Chrome 확장 프로그램에 실시간 분석 기능을 추가하여 사용자가 자주 방문하는 웹사이트에서 AI 콘텐츠를 더 쉽게 확인할 수 있도록 지원한다.
* Pangram의 도구는 교황의 X 계정(@Pontifex)에서 AI가 생성한 것으로 보이는 여러 게시물을 탐지했는데, 특히 AI가 인간 정신에 미치는 위험에 대해 논하는 스레드에서 이러한 결과가 나타났다.
* 교황청의 게시물 중 일부는 AI로 탐지되었으며, 이는 소셜 미디어 담당자가 AI 도구를 사용하고 있음을 시사한다.
* AI 탐지 도구는 인플루언서, Medium, LinkedIn, Substack 등에서 AI가 작성한 것으로 의심되는 콘텐츠를 자주 식별한다.
* 일부 저자들은 AI 도구를 공개적으로 사용하고 있으며, Alex Heath와 같은 기술 기자는 AI 지원을 받아 기사를 작성하고 있다.
* Apple CEO Tim Cook의 50주년 기념 메시지와 같은 내용도 AI 탐지 도구에서 긍정적인 반응을 보였다.

시사점

AI 탐지 기술의 발전은 온라인에서 소비되는 정보의 신뢰성을 검증하는 데 중요한 역할을 할 수 있으며, 사용자들로 하여금 AI 생성 콘텐츠에 대해 더욱 비판적이고 신중하게 접근하도록 유도할 수 있다.