Meta turns off the Instagram feature that let users make AI deepfakes of public accounts

개요

Meta는 공개된 인스타그램 계정의 콘텐츠를 기반으로 AI 이미지를 생성할 수 있었던 기능을 사용자들의 거센 반발 이후 중단했습니다. 이 기능은 계정 소유자의 허락 없이도 해당 계정의 콘텐츠를 AI 이미지 생성에 활용할 수 있도록 설계되었습니다.

주요 내용

• Meta는 공개된 인스타그램 계정을 @-mention하여 Meta AI에서 이미지를 생성할 수 있는 기능을 발표했습니다.
• 이 기능의 본래 의도는 창의적인 도구를 제공하고 사용자가 자신의 공개 콘텐츠가 참조되는 것을 제어할 수 있도록 하는 것이었습니다.
• 하지만 해당 기능은 계정 소유자의 동의 없이 콘텐츠가 사용될 수 있다는 점에서 심각한 비판을 받았습니다.
• 국립 성 착취 센터(National Center on Sexual Exploitation)는 이 기능이 자신의 이미지에 대한 권리를 침해할 뿐만 아니라, 성 착취 및 사기 도구로 악용될 수 있다고 지적했습니다.
• 배우 조합(Screen Actors Guild)은 회원들에게 이 기능에서 옵트아웃할 것을 권고하고 방법을 안내했습니다.
• Meta는 사용자가 설정에서 옵트아웃할 수 있도록 했으나, 이러한 절차에도 불구하고 기능 자체에 대한 비판이 거셌습니다.
• Meta는 "이 기능이 기대에 미치지 못했다는 피드백을 받았으며, 따라서 더 이상 제공되지 않는다"고 업데이트했습니다.

시사점

Meta의 AI 이미지 생성 기능 중단은 AI 기술 개발 시 개인의 권리 보호와 잠재적 오용 방지에 대한 사회적 합의와 신중한 접근이 필수적임을 보여줍니다.