Reddit is using LLMs to solve a problem LLMs largely created

개요

Reddit은 LLM의 접근성 증가로 인해 심화된 스팸 및 봇 콘텐츠 문제를 해결하기 위해 LLM 기반 도구를 개발했습니다.

주요 내용

* LLM의 발전과 쉬운 접근성은 인터넷 전반에 걸쳐 악의적인 행위자들이 스팸을 퍼뜨리는 것을 더욱 용이하게 만들었습니다.
* Reddit은 LLM을 활용하여 이전 시스템에서는 놓쳤던 미묘하고 조직적인 가짜 행동 패턴 및 인위적인 과대 광고를 탐지하는 도구를 개발했습니다.
* Reddit은 이러한 업데이트된 도구를 통해 하루에 2,300만 건의 스팸 노출을 차단하고, 매일 약 25,000개의 새로운 스팸 게시물 및 댓글을 탐지하고 있습니다.
* Reddit은 1월부터 3월까지 이전 3개월 대비 스팸에 대한 사용자 노출을 20% 감소시켰다고 밝혔습니다.
* YouTube, Meta, Instagram과 같은 플랫폼은 AI 생성 콘텐츠를 공개 시 허용하고 있으며, TikTok은 AI 생성 콘텐츠 노출 정도를 사용자가 조절할 수 있도록 합니다.
* AI 생성 콘텐츠를 더 빠르게 탐지할 수 있다면 혐오 발언과 같은 위반 콘텐츠를 더 신속하게 플래그 지정할 잠재력이 있습니다.
* AI 콘텐츠 모더레이션은 가장 효과적인 결과를 얻기 위해 인간 모더레이션과 병행되어야 합니다.

시사점

LLM은 AI 시대에 플랫폼이 직면한 AI 관련 문제를 해결하는 데 필수적인 도구이며, AI 생성 콘텐츠 탐지 능력 향상은 플랫폼 안전성을 높일 수 있지만 인간의 검토와 결합될 때 최상의 효과를 발휘합니다.