I Am Begging AI Companies to Stop Naming Features After Human Processes

개요

AI 기업들이 '꿈', '기억', '추론' 등 인간의 인지 과정과 유사한 용어로 AI 기능의 이름을 붙이는 경향이 있으며, 이는 사용자에게 AI의 능력에 대한 오해를 불러일으키고 과도한 신뢰를 유발할 수 있다.

주요 내용

* Anthropic의 'Dreaming' 기능 출시: AI 에이전트 인프라의 새로운 기능으로, 에이전트 활동 기록을 분석하여 성능 개선에 대한 통찰력을 얻는 기능을 'Dreaming'이라고 명명했다.
* 인간 인지 과정과의 유사한 이름 사용: OpenAI의 'Reasoning' 모델, 다양한 스타트업의 'Memory' 기능처럼 AI 기업들이 인간의 뇌 활동을 묘사하는 용어를 AI 기능 명칭에 사용하고 있다.
* 마케팅 전략의 일환: 이러한 명명 방식은 인간과 기계의 경계를 모호하게 만드는 마케팅 전략의 일환으로, 사용자에게 AI가 인간과 유사한 내면세계나 잠재력을 가진 것처럼 느끼게 한다.
* 의인화 심화: Anthropic은 '덕성', '지혜'와 같은 인간적인 용어로 Claude를 설명하며, AI의 '가치'를 이해하기 위해 상주 철학자를 고용하기도 한다.
* 의인화의 위험성: AI에 대한 의인화는 AI의 도덕적 판단, 책임감, 신뢰성에 대한 왜곡된 인식을 유발할 수 있으며, 사용자가 AI에 실제 존재하지 않는 특성을 투사할 위험이 있다.
* Sci-Fi 문학과의 연관성: 필립 K. 딕의 소설 '안드로이드는 전기양을 꿈꾸는가?'를 언급하며, AI 기업 리더들이 이러한 문학 작품을 통해 AI의 한계를 인식해야 한다고 주장한다.

시사점

AI 기업들이 인간의 인지 과정을 차용한 용어를 사용하여 AI 기능을 명명하는 것은 사용자가 AI의 능력과 한계를 오해하게 만들 수 있으므로, 보다 객관적이고 분리된 언어 사용이 필요하다.