Please Stop Making Me Opt Out of AI

개요

Meta는 AI 앱에서 사용자가 자신의 모습을 활용하여 이미지를 생성하는 기능을 기본으로 설정하고 사용자가 직접 거부하도록 하여 논란을 일으켰으며, 이는 생성형 AI에 대한 대중의 부정적인 반응과 실리콘밸리 기업들의 기본 설정 강화 경향을 보여준다.

주요 내용

• Meta는 Instagram 계정을 태그하여 AI 이미지 생성에 활용하는 기능을 사용자가 '거부(opt-out)'해야 하도록 기본 설정했다가 사용자들의 강한 반발 후 3일 만에 철회했다.
• Instagram 크리에이터 Sam Sooin Yang은 Meta가 사용자가 원하지 않는 AI 기능을 강제로 사용하게 하는 것에 피로감을 표현했으며, 이러한 '거부' 방식의 기본 설정에 대한 대중의 즉각적이고 강력한 반발이 나타났다.
• Google Docs의 'Ask Gemini' 바, Dropbox, LinkedIn 등에서도 사용자가 직접 AI 관련 기능을 비활성화해야 하는 사례가 있으며, 이러한 방식은 Meta뿐만 아니라 여러 기업에서 관찰된다.
• Ben Winters는 이러한 '거부' 중심의 관행이 현재의 개인정보 보호 규제 미비 상황과 관련이 있으며, Meta의 'Enhanced Browsing' 설정 역시 사용자가 직접 비활성화해야 한다.
• Meta 대변인은 사용자가 개인정보 보호 선택을 할 수 있도록 다양한 설정과 통제를 제공하며, 연구를 통해 이해하기 쉬운 통제 및 데이터 관행을 개발하고 있다고 밝혔다.
• Woodrow Hartzog 교수는 사용자가 기본 설정에 머무르는 경향이 강하므로, AI 도구나 데이터 학습에 대한 기본 설정이 중요하며, 사용자를 참여시키는(opt-in) 방식이 필요하다고 강조했다.
• 유럽 연합의 GDPR(General Data Protection Regulation) 제25조는 시스템 설계 시 필요한 최소한의 정보만 수집하도록 하며, 개인정보 보호에 더 유리한 옵션을 기본으로 설정하도록 규정하고 있어 사용자 보호에 대한 사례로 언급된다.
• 유럽의 GDPR과 같은 접근 방식은 사용자가 직접 메뉴를 탐색하고 설정을 변경해야 하는 부담 없이 온라인 상호작용에 대한 안심감을 줄 수 있다.

시사점

기술 기업들이 AI 기능을 기본 설정으로 제공하고 사용자가 직접 거부하도록 하는 방식은 사용자 개인정보 보호 및 선택권에 대한 우려를 제기하며, GDPR과 같은 사전 동의 기반 또는 개인정보 보호 우선 기본 설정에 대한 논의를 촉발시킨다.