TikTok is testing an AI likeness detection tool

개요

TikTok이 AI 생성 딥페이크로부터 크리에이터의 이미지를 보호하기 위해 AI 유사성 감지 도구의 테스트를 시작했다.

주요 내용

* TikTok은 크리에이터가 자신의 AI 기반 복제본을 스캔하고 이를 신고할 수 있는 옵트인 도구를 일부 미국 크리에이터를 대상으로 테스트 중이다.
* 이 도구를 사용하려는 크리에이터는 Jumio라는 회사를 통해 신원 확인 절차를 거쳐야 하며, 여기에는 실시간 셀피 스캔 및 신분증 확인이 포함된다.
* TikTok은 신분증 문서를 보관하지 않으며, 얼굴 정보는 유사성 일치 및 크리에이터의 유사성에 대한 무단 사용 가능성 식별에만 사용된다.
* 신원 확인 후, TikTok 시스템은 크리에이터의 유사성을 사용할 가능성이 있는 AI 생성 콘텐츠를 스캔한다.
* 크리에이터는 TikTok이 찾은 내용을 검토하고 무단 게시물 및 계정을 신고할 수 있다.

시사점

이 도구는 AI 기술의 발전으로 인한 딥페이크 및 이미지 도용 문제에 대한 플랫폼의 대응을 보여주며, 크리에이터에게 자신의 디지털 정체성을 보호할 수 있는 수단을 제공한다.