How the Internet Broke Everyone’s Bullshit Detectors

개요

인터넷 환경의 변화는 속도, 모호성, 알고리즘적 도달 범위를 우선시하며 정확성보다 파급력을 중시하는 정보 전쟁의 새로운 양상을 만들고 있습니다.

주요 내용

* 합성 미디어의 빠른 확산: 이란 연계 매체 Explosive News는 24시간 안에 2분 길이의 합성 레고 영상을 제작할 수 있으며, 이는 검증이 따라잡기 전에 빠르게 확산되는 것을 목표로 합니다.
* 공식 소통의 모호성 증가: 백악관이 공개한 '출시 예정' 영상은 온라인 조사관들의 분석 후 삭제되었으나, 이는 공식 소통이 누출, 바이럴, 플랫폼 고유의 흥미 위주 콘텐츠 미학을 흡수했음을 보여줍니다.
* 진위 판별의 어려움 가중: 과거 디지털 흔적이 없다는 것이 진정성을 의미했다면, 이제는 오히려 처음부터 촬영되지 않았음을 의미할 수 있습니다. 자동화된 트래픽이 인터넷 활동의 51%를 차지하며, 이는 합성 기록의 확산을 가속화합니다.
* 오픈 소스 조사(OSINT)의 도전: 유료 검증 지원을 받는 '슈퍼 공유자(super sharers)'의 등장은 전통적인 OSINT에 새로운 도전 과제를 제시하며, 알고리즘은 생각 없이 리포스트하는 행위를 우선시하여 정보가 항상 한 발 늦게 됩니다.
* OSINT 활용의 왜곡: 텔레그램, X 등에서 확산되는 집계 콘텐츠는 확증 편향이나 공식 계정의 미화, 이념적 서사에 맞춰 의도적으로 잘못 적용되는 경우로 인해 잘못된 확신을 생성할 수 있습니다.
* 중요 시각 자료 접근성 제한: 미국 정부의 요청으로 Planet Labs가 이란 및 중동 분쟁 지역의 위성 이미지를 무기한 보류하면서 독립적인 사건 검증 능력이 축소되었으며, 국방부 장관은 "오픈 소스는 무슨 일이 있었는지 결정하는 장소가 아니다"라고 발언했습니다.
* 생성형 AI의 탐지 어려움 증대: Imagen 3, Midjourney, Dall·E와 같은 최신 생성형 AI 모델들은 부정확한 손가락 개수, 왜곡된 텍스트 등의 오류를 수정하며 사실성과 텍스트-이미지 렌더링 능력을 향상시켜 탐지를 더욱 어렵게 만듭니다.

시사점

정보의 진위를 판별하기 위한 기존의 방법론들이 점점 더 도전받고 있으며, 생성형 AI 기술의 발전은 사실과 허구를 구분하는 능력을 더욱 시험대에 오르게 할 것입니다.