Substack adds an AI detector to help spot blogs written by no one

개요

Substack은 AI 탐지 도구를 도입하여 사용자가 AI가 생성했거나 AI의 도움을 받은 콘텐츠인지 파악할 수 있도록 지원한다.

주요 내용

* Substack은 AI 탐지 회사인 Pangram과 협력하여 게시물, 노트, 답글, 댓글 등에서 AI 생성 텍스트의 비율을 추정하는 새로운 도구를 출시했다.
* 이 도구는 웹과 iOS 앱에 우선 적용되며, 안드로이드 버전은 곧 출시될 예정이다.
* 100단어 이상의 콘텐츠는 게시물 오른쪽 상단의 세 점 메뉴에서 "AI 텍스트 검색" 옵션을 선택하여 분석할 수 있다.
* Substack 공동 창립자이자 CEO인 Chris Best는 이 통합이 AI의 보편화 속에서 플랫폼의 투명성을 높이기 위한 목적이라고 밝혔다.
* Best는 AI 사용 자체보다는 독자의 기대와 현실 간의 불일치, 즉 인간의 사고 없이 작성된 콘텐츠에 시간과 관심을 쏟는 상황을 문제점으로 지적하며, 이를 "Claudefishing"이라고 명명했다.
* 이와 더불어 Substack은 창작자들이 자신의 글쓰기 과정을 독자에게 설명할 수 있도록 "How I make this" 섹션을 도입했으며, 작가들은 초안을 Pangram으로 스캔하고 부정확한 결과에 대해 신고할 수 있는 옵션도 제공된다.
* Pangram은 텍스트 생성에 AI가 사용되었는지 여부만 감지할 뿐, 창작 과정에서의 인간의 노력이나 AI 도구의 출처로서의 사용 여부는 판단하지 못한다.
* 이 도구의 목표는 독자들이 자신의 시간을 투자하여 읽을 만한 블로그 게시물을 더 쉽게 선택하도록 돕는 것이다.
* Best는 독자들이 콘텐츠의 진위 여부를 의심하게 되면 저작권에 대한 신뢰가 약화되고, AI 도구를 신중하게 사용하여 자신의 작업을 생산하는 작가들의 생계가 위협받는다고 언급하며, "가짜를 보상하는 플랫폼은 최악의 결과를 초래할 것"이라고 경고했다.

시사점

AI 생성 콘텐츠의 증가에 대응하여 Substack은 투명성 강화와 독자의 신뢰 유지를 위한 새로운 도구를 도입함으로써, 인간 창작자의 가치를 보호하고 플랫폼 생태계의 건강성을 확보하려는 시도를 하고 있다.