AI Influencers Are Heading Into Uncharted Territory

개요

AI 생성 콘텐츠에 대한 규제가 강화되면서 가상 인플루언서 및 AI 크리에이터의 비즈니스 모델이 변화하고 있으며, 유럽연합(EU)의 AI Act와 소셜 미디어 플랫폼의 정책 변화가 주목받고 있다.

주요 내용

* AI 인플루언서 시장 성장: AI 생성 이미지 및 텍스트 도구의 발전으로 가상 인플루언서 시장은 빠르게 성장하고 있으며, 브랜드 협찬 및 자체 AI 인플루언서 디자인을 통해 수익을 창출하는 크리에이터들이 증가하고 있다.
* 규제 강화 움직임: EU의 AI Act는 AI 생성 또는 조작된 홍보 콘텐츠에 대한 명확한 라벨링을 의무화하며, 틱톡, 핀터레스트, 메타와 같은 플랫폼들은 AI 콘텐츠 탐지 시스템을 강화하고 인간 크리에이터를 우선시하는 알고리즘으로 조정하고 있다.
* 규제 적용의 불확실성: EU AI Act의 투명성 의무 조항은 예술, 창작, 풍자 등의 목적을 가진 콘텐츠에 대해서는 완화되어 해석의 여지가 많으며, AI Act 외에도 저작권법, 소비자 보호법 등 다양한 법규가 AI 크리에이터에게 복합적으로 적용될 수 있어 규제 준수에 대한 불확실성이 존재한다.
* 플랫폼의 둔감한 알고리즘: 소셜 미디어 플랫폼들은 AI 콘텐츠를 효과적으로 분류하고 관리하기 위한 정교한 시스템보다는 일괄적인 접근 방식을 취하고 있어, 의도치 않게 인간 크리에이터까지 영향을 받을 수 있다는 우려가 제기되고 있다.
* 투명성을 통한 차별화: 일부 AI 크리에이터들은 규제를 위협이 아닌, AI 페르소나만이 가능한 독창적인 콘텐츠를 개발하고 투명성을 높이는 방식으로 차별화를 꾀하고 있다.
* AI의 긍정적 영향: AI 생성 캐릭터가 외로움이나 질병을 겪는 사람들에게 위안을 주는 등 긍정적인 정서적 영향을 미치기도 하며, AI는 창작자에게 더 많은 도구와 가능성을 제공하는 기술적 전환으로 인식되기도 한다.

시사점

AI 생성 콘텐츠에 대한 명확한 라벨링과 투명성 확보는 소비자를 보호하고 신뢰를 구축하는 데 필수적이며, 이러한 규제 환경 변화 속에서 AI 크리에이터들은 창의적인 전략과 투명성을 통해 지속 가능한 비즈니스 모델을 모색해야 한다.