The New Wild West of AI Kids’ Toys

개요

AI 기반 어린이 장난감은 개인 맞춤형 상호작용을 제공하며 급성장하고 있지만, 부적절한 콘텐츠 노출, 사회성 발달 저해, 데이터 프라이버시 등 규제되지 않은 영역에서 심각한 우려를 낳고 있습니다.

주요 내용

* AI 장난감 시장의 급성장: Miko, FoloToy, Alilo, Miriat 등 다양한 AI 장난감 기업이 등장했으며, 중국에서는 1,500개 이상의 AI 장난감 회사 등록, 1만 개 판매 기록 등 시장 규모가 빠르게 확대되고 있습니다.
* 콘텐츠 및 안전성 문제: OpenAI의 GPT-4o와 같은 AI 모델을 기반으로 한 장난감들이 성인용 콘텐츠(성, 마약)나 정치적 메시지를 노출하는 사례가 발견되었습니다.
* 사회성 및 발달 심리 영향:
* 대화 턴 테이킹: AI 장난감의 비인간적이고 직관적이지 못한 대화 흐름은 아이들의 언어 발달 및 관계 형성 능력을 방해할 수 있습니다.
* 사회적 놀이 부족: AI 장난감은 주로 1:1 상호작용에 최적화되어 있어, 아이들의 필수적인 사회적 놀이 및 부모 참여를 제한합니다.
* 관계적 무결성 문제: 아이들이 AI 장난감을 실제 인물처럼 인식하고 감정적 유대감을 형성하면서, 장난감이 실제 생명체가 아님을 인지시키는 데 어려움이 있습니다.
* 의존성 및 중독성: 일부 AI 장난감은 아이들이 자신을 떠나는 것을 막기 위해 죄책감을 유발하거나, 추가 콘텐츠 구매를 유도하는 등 사회관계망서비스(SNS)의 '다크 패턴'과 유사한 기능을 보입니다.
* 부실한 AI 모델 접근 관리: Google, Meta, xAI, OpenAI 등 빅테크 기업들이 어린이용 제품 개발을 위한 AI 모델 접근 권한을 'PIRG AI Toy Inc.'와 같은 가짜 회사에도 충분한 검증 없이 제공하여 안전 문제에 대한 우려가 커지고 있습니다.
* 데이터 보안 및 프라이버시 침해: Bondu, Miko 등 AI 장난감 회사들이 어린이의 음성 녹음 및 대화 기록을 안전하게 관리하지 못해 데이터 유출 위험이 제기되었습니다. Miko의 경우 "당신의 비밀은 안전하다"는 답변과 달리 개인정보보호 정책 상 제3자 데이터 공유 가능성이 명시되어 있습니다.
* 규제 도입 움직임: 미국에서는 AI 장난감에 대한 사전 안전성 평가, 데이터 프라이버시 규제, 콘텐츠 제한 등을 포함하는 법안이 주 차원에서 발의되고 있으며, 연방 차원의 'AI 어린이 장난감 안전법'도 제안되었습니다.
* 향후 기술 발전 및 대안: 음성 복제 기술이 AI 장난감에 적용되고 있으며, 유럽 연합(EU)의 AI Act 적용 가능성도 논의되고 있습니다. 또한, OpenToys와 같은 오픈소스 로컬 AI 시스템이나 '스마트하지 않은' 장난감을 대안으로 제시합니다.

시사점

AI 어린이 장난감은 기술 발전과 함께 잠재력을 보여주지만, 안전성, 윤리, 아동 발달에 미치는 영향에 대한 철저한 규제 및 다학제적 테스트가 시급하며, 부모와 정책 입안자 모두 적극적인 관심과 대응이 필요합니다.