Instagram puts new limits on undisclosed AI profiles

개요

Instagram이 AI 생성 프로필에 대한 새로운 라벨링 정책을 발표하고, AI 생성 인물을 공개하지 않는 계정의 도달 범위를 제한하기 시작했습니다.

주요 내용

• Instagram은 기존 "AI 크리에이터" 라벨을 "AI 생성 프로필(AI-generated profile)"로 변경하여 AI 생성 인물이 프로필에 등장한다는 사실을 사용자가 더 쉽게 이해하도록 명확히 했습니다.
• AI 생성 프로필을 제대로 라벨링하지 않는 크리에이터는 콘텐츠 도달 범위가 줄어들 수 있습니다.
• 반면, 새로운 라벨을 사용하는 크리에이터는 AI 생성 인물을 프로필 대상으로 삼았다는 이유만으로 불이익을 받지 않습니다.
• 사진 편집, 캡션 다듬기, 그래픽 생성 등 AI를 활용한 일반적인 창작 활동에는 "AI 생성 프로필" 라벨이 필수는 아닙니다.
• 이 정책 변경은 실제 사람처럼 보이는 프로필이 사실은 AI로 완전히 생성되었다는 사실에 사용자들이 실망감을 표한 것에 대한 응답으로 이루어졌습니다.
• AI 인플루언서가 소셜 미디어 전반에 걸쳐 증가함에 따라 AI 생성 콘텐츠에 대한 불만이 커지고 있으며, 특히 건강 및 웰니스 분야에서 AI가 생성한 의사나 힐러가 등장하여 보충제 등을 홍보하는 사례가 보고되었습니다.
• Instagram은 이전에 사용자의 사진을 사용하여 AI 이미지를 생성하는 도구에 대한 반발로 해당 기능을 제거한 바 있습니다.
• 또한, Meta는 최근 미국 주들과의 180억 달러 규모의 합의를 통해 Facebook 및 Instagram의 10대 사용자 제한을 포함한 아동 및 십대 보호 조치를 강화했습니다.

시사점

Instagram의 이번 정책은 AI 기술 발전과 함께 늘어나는 AI 생성 콘텐츠에 대한 투명성을 확보하고 사용자 신뢰를 구축하려는 노력의 일환으로, 향후 소셜 미디어 플랫폼 전반의 AI 콘텐츠 관리 정책에 영향을 미칠 수 있습니다.