Instagram’s Adam Mosseri: If you don’t like AI, ‘then you shouldn’t have it in your feed’

개요

Instagram의 Adam Mosseri는 AI 콘텐츠를 플랫폼에서 완전히 배제하는 대신, 사용자에게 AI 생성 콘텐츠임을 알리고 피드에서 제외할 수 있는 선택권을 제공해야 한다고 주장한다.

주요 내용

* AI 콘텐츠 필터링 대신 정보 제공: Mosseri는 AI 콘텐츠를 플랫폼에서 걸러내기보다는, 해당 콘텐츠가 AI에 의해 생성되었는지 여부를 사용자에게 명확히 알리는 것이 중요하다고 언급했다.
* 'AI 타운' 피드 제안: AI 콘텐츠를 선호하는 사용자를 위해 AI 생성 콘텐츠로만 구성된 별도의 피드를 제공하는 방안을 제시했다.
* AI 콘텐츠 탐지의 어려움: AI 모델이 발전함에 따라 AI 생성 콘텐츠를 정확히 탐지하는 것이 점점 더 어려워질 수 있으며, Instagram은 이 능력을 잃을 수도 있다고 인정했다.
* '카메라 캡처 콘텐츠' 라벨링의 실용성: AI 생성 콘텐츠를 식별하는 대신, 비(非) AI 생성 '카메라 캡처 콘텐츠'에 라벨을 붙이는 것이 더 실용적일 수 있다는 의견을 내비쳤다.
* 스팸성 AI 콘텐츠 단속의 필요성: 스팸성 AI 콘텐츠에 대한 단속 방안을 마련해야 하지만, Meta의 Muse Spark와 같은 AI 이미지 생성 도구 도입 등 플랫폼은 AI 기술을 계속 수용하고 있다.
* AI 생성 콘텐츠의 잠재적 악용 우려: Meta의 Muse Spark 기능이 다른 사용자를 AI 창작물에 태그하여 악용, 성적 학대, 괴롭힘, 신원 사기에 대한 기회를 제공할 수 있다는 지적이 제기되었다.

시사점

Instagram은 AI 기술을 적극적으로 수용하면서도, 사용자에게 AI 생성 콘텐츠에 대한 정보와 제어권을 제공함으로써 플랫폼 내에서의 AI 콘텐츠 활용과 잠재적 위험 사이의 균형을 모색하고 있다.