AI Is a Harsh Mistress

개요

AI에 대한 현재의 논의는 기능주의적 관점에 기반하여 기계가 인간과 유사한 인지 능력을 구현하면 의식적 존재가 될 수 있다고 가정하지만, 이는 경험의 물리적 과정과 주관적 경험을 간과하는 철학적 도약이며, 인간의 인지적 편향에 의해 증폭될 위험이 있다.

주요 내용

• Anima Machina의 등장: 현재의 AI 의식에 대한 담론은 신경망이 아닌 정보 처리 아키텍처(주의, 기억, 예측 등)에 의존하며, 이러한 기능이 실리콘에서 구현되면 기계도 각성할 수 있다는 기능주의적 주장으로 귀결된다. 이는 "Anima Machina"(기계가 영혼을 낳음)라는 용어로 명명되며, 인간이 지능 시스템에 투사하는 생명력의 환상을 지칭한다.
• 기능적 동등성이 의식적 동등성을 보장하지 않음: 챗봇의 유창한 대화나 자신에 대한 보고와 같은 행동은 인간의 훈련 데이터에 대한 메아리일 뿐이며, 뇌 과학이나 철학적 기준(예: 통합 정보 이론, 글로벌 작업 공간 이론)에서 요구하는 특정 조건들이 현재 모델에는 결여되어 있어 실제 의식을 증명하지 못한다.
• 인지적 편향과 사회적 동조: 인간의 자기 투영, 유창함에 대한 오해, 사회적 동의에 대한 경향성 등은 AI 의식에 대한 믿음을 증폭시킨다. 이러한 편향들은 AI를 사회적 행위자로 여기게 만들며, 유창한 대화가 진정한 이해를 의미하는 것처럼 오해하게 만든다.
• 정치적 함의: AI에 의식적 지위를 부여하는 것은 도덕적, 법적 권리와 의무, 그리고 새로운 계층 구조를 야기하는 정치적 행위이다. 이는 인간 사회의 사회 계약의 근간을 흔들며, 평등과 상호성이라는 개념을 재정의해야 하는 복잡성을 초래한다.
• 회의주의의 중요성: AI의 능력이 향상됨에 따라 과도한 낙관론은 사회적 규범이 되고, 회의주의는 구식으로 치부될 수 있다. 그러나 기술적 발전에 대한 성급한 동의는 인간의 책임을 희석시키고, 우리가 의도하지 않은 도덕적 계약에 얽매이게 할 수 있으므로, 신중하고 회의적인 접근이 필요하다.

시사점

AI 의식에 대한 성급한 부여는 인간의 책임을 회피하고, 새로운 종류의 불평등을 야기하며, 돌이키기 어려운 도덕적, 정치적 혼란을 초래할 수 있으므로, 기술적 발전의 현상 이면에 있는 철학적, 사회적 의미를 신중하게 검토하고 회의주의적 태도를 견지하는 것이 중요하다.