Let us filter AI slop, you cowards

개요

온라인 플랫폼들은 AI 생성 콘텐츠에 대한 자동 라벨링을 도입했지만, 사용자가 이러한 콘텐츠를 능동적으로 필터링할 수 있는 기능은 부족한 실정이며, 이는 AI 생성 콘텐츠 범람 문제에 대한 플랫폼의 소극적인 대응을 시사합니다.

주요 내용

* AI 콘텐츠 라벨링 현황: YouTube, Instagram, TikTok 등 다수의 플랫폼에서 AI 생성 이미지, 영상, 음악에 대해 자동으로 라벨을 부착하는 콘텐츠 인증 노력을 강화하고 있습니다. Meta는 Facebook과 Instagram에 AI 메타데이터나 창작자의 자발적 공개를 기반으로 "AI 정보" 라벨을 적용합니다.
* 필터링 기능의 부재: 현재 대부분의 플랫폼에서 사용자가 AI 라벨이 부착된 콘텐츠를 의도적으로 회피할 수 있는 필터 기능은 제공되지 않으며, 이는 AI 생성 콘텐츠를 피하고 싶은 사용자에게 불편함을 초래합니다.
* 플랫폼들의 소극적인 태도: Meta, Google, TikTok, Spotify 등 주요 플랫폼들은 AI 콘텐츠 필터 제공 계획에 대해 긍정적인 답변을 회피하거나 공유할 내용이 없다고 밝혔습니다.
* 제한적인 AI 필터 구현 사례: DeviantArt는 "AI 콘텐츠 설정" 메뉴를 통해 AI 콘텐츠를 "억제"하는 옵션을 제공하지만, 실제 효과는 미미하며 접근성도 떨어집니다. Pinterest 역시 "AI 콘텐츠" 탭에서 특정 카테고리의 AI 수정 콘텐츠를 줄이는 설정을 제공하지만, 완벽하지 않으며 찾기 어려운 단점이 있습니다.
* 필터 기능의 필요성 및 잠재적 효과: AI 콘텐츠 필터가 도입된다면, 현재 플랫폼들이 내세우는 AI 라벨링 솔루션의 비효과성을 드러낼 수 있으며, 이는 규제 당국과 비평가들을 달래기 위한 보여주기식 솔루션임을 시사합니다.
* AI 생성 콘텐츠의 문제점: 생성형 AI를 둘러싼 윤리적, 환경적 우려와 더불어, AI 생성 콘텐츠가 초래하는 인지적 피로감 ("brain rot") 문제도 제기됩니다.
* 기술적 한계: C2PA, SynthID와 같은 출처 기반 시스템은 메타데이터나 보이지 않는 워터마크를 사용하지만, 오픈 소스 모델이나 악의적인 목적으로 설계된 모델에서는 메타데이터가 제거될 수 있으며, 탐지 기반 방법은 오탐(false positive) 가능성이 있습니다.
* 플랫폼의 딜레마: 플랫폼은 AI 라벨링을 강화하면 실제 인간 제작 콘텐츠를 잘못 플래그링할 위험이 있고, 이를 피하면 AI 생성 콘텐츠 문제를 효과적으로 해결하지 못하는 딜레마에 처해 있습니다.
* 인력 및 비용 문제: AI 문제 해결을 위해 인간 검토자를 다시 고용하는 것은 인건비 및 복리후생과 같은 비용 문제로 인해 빅테크 기업들이 AI 도입 narrativa와 배치될 수 있습니다.
* 대안적 접근 방식: AI 생성 콘텐츠 라벨링 대신, 검증된 인간 제작자를 별도로 라벨링하는 방안이 대안으로 제시됩니다. 이는 인스타그램의 Adam Mosseri가 제안한 방식이며, Spotify의 Verified 아티스트와 유사합니다.
* 플랫폼의 이익 추구: Meta, Spotify, Google과 같은 기업들은 AI 생성 도구 개발에도 관여하고 있어, AI 콘텐츠를 "슬롭(slop)"으로 규정하기보다 품질의 문제로 접근하여 사용자들이 인지하지 못하도록 하려 합니다. AI 필터 도입은 이러한 플랫폼의 AI로부터 수익을 창출하려는 노력과 상충될 수 있습니다.

시사점

AI 콘텐츠에 대한 사용자의 능동적인 필터링 기능 제공은 플랫폼이 AI 생성 콘텐츠 범람 문제에 대해 더 책임감 있고 사용자 중심적인 접근 방식을 취해야 함을 보여주며, 현재의 라벨링 시스템의 실효성을 검증하는 중요한 척도가 될 수 있습니다.