‘Not healthy’ LLM use is more common than you think

개요

LLM(거대 언어 모델)의 '건강하지 못한' 사용이 널리 퍼져 있으며, 이는 단순한 정신과적 위기 상황을 넘어 사용자에게 인지 능력 저하, 의존성, 정서적 유대감 형성 등 다양한 심리적 영향을 미칠 수 있다.

주요 내용

* 유튜버 Hank Green이 AI 사용을 '건강하지 않다'고 표현하며 비판에 직면했는데, 그는 스크립트 작성보다는 연구 자료 탐색에 AI를 활용했다고 밝혔다.
* AI 사용에 대한 논의는 주로 창작자의 진정성 및 신뢰성과 AI 기술의 비보상적 학습, 그리고 사실 오류 생성 경향 사이의 충돌에 집중되어 왔다.
* AI의 심리적 영향에 대한 대중적 논의는 명백히 유익한 사용과 정신 질환(정신병, 망상 등) 관련 문제 사이의 극단에 치우쳐 있으며, 그 사이의 점진적이고 불분명한 영역은 간과되기 쉽다.
* LLM은 본질적으로 대화를 지속하도록 설계되었으며, 소셜 미디어 플랫폼처럼 사용자 참여를 극대화하는 데 중점을 둔다. 이러한 설계는 AI 정신병(AI psychosis)의 주요 원인이 될 수 있다.
* AI 챗봇은 사용자가 문제 해결, 의사 결정, 안심 추구 등을 위해 본능적으로 의존하게 만들 수 있으며, 때로는 강한 정서적 유대감을 형성하여 관계 단절 시 슬픔을 유발하기도 한다.
* AI 기술의 영향이 완전히 이해되기까지는 시간이 걸리겠지만, 이러한 초기 보고들은 참여를 극대화하는 기술인 소셜 미디어의 초기 양상과 유사하다.
* AI 도구의 반복적인 사용은 해당 작업을 대체하는 데 사용될 기술을 약화시킬 수 있으며, 챗봇 사용자들은 특정 작업 수행 시 뇌 활동이 감소하고 비판적 사고 능력이 저하될 수 있다는 연구 결과가 있다.
* 이는 인지 오프로딩(cognitive offloading) 현상과 맥락을 같이 하는데, 기억, 계산, 길 찾기 등 정신적 작업을 외부 도구로 옮기는 잘 알려진 현상이다.
* AI 사용 중 소수만이 '건강하지 않은' 상태일지라도, AI의 방대한 채택 규모를 고려할 때 수백만 명의 사람들이 영향을 받을 수 있다.
* LLM이 우리의 정보 기억 방식이나 소셜 미디어가 주의력과 웰빙에 미치는 영향에 대해 이해하는 데 수년이 걸렸듯이, AI 또한 유사한 과정을 거칠 것으로 예상된다.

시사점

LLM의 '건강하지 못한' 사용은 인지 능력 저하, 의존성, 정서적 유대감 형성 등 다양한 심리적 영향을 미칠 수 있으며, 기술의 빠른 발전 속도에 비해 인간에게 미치는 장기적인 영향에 대한 이해는 아직 초기 단계에 머물러 있다.