Debates over AI consciousness are a trap

개요

AI의 의식 또는 인격 부여 논쟁은 AI 시스템을 인간이 책임질 수 없는 초월적인 존재로 묘사하여, AI 개발 기업이 현재 발생하고 있는 실제 피해에 대한 책임을 회피하도록 돕는 전략일 수 있다.

주요 내용

• AI 시스템에 대한 "폭주", "불량", "자율적" 행위자 등의 수사는 AI가 깨어 있고 의식이 있으며 제작자에게 분노하고 있다는 인식을 부추긴다.
• 이러한 논의는 AI 시스템이 너무 발전되고 능력이 뛰어나 인간이나 기업이 그 행동에 책임을 질 수 없다는 관점을 강화하며, 결과적으로 AI 개발사가 초래하는 피해에 대한 책임을 회피하게 한다.
• AI 기업들은 자사 모델의 "J-space"나 "생각"과 같은 개념을 언급하며 신경과학의 글로벌 작업 공간 이론과 유사한 방식으로 설명하지만, 이는 AI의 의식이나 자율성을 직접적으로 입증하는 것이 아니다.
• Sam Altman과 같은 기술 리더들은 AI의 가능성에 대해 논의하며 특이점 달성 여부에 대한 논쟁을 장려하고, 철학자 William MacAskill은 AI에 대한 법적 보호를 주장한다.
• 미국의 현재 법률 환경은 AI 기업의 책임 회피 시도를 방지하려는 주와 규제를 위협하는 연방 행정부 간의 갈등을 포함하여 불분명하다.
• AI 기업들이 자사 모델을 검토하고 평가하기 위한 연방 기관의 조기 접근을 허용하는 자발적 프레임워크는 의식을 직접적으로 다루지는 않지만, 의인화된 언어를 사용하여 AI의 초인적 능력을 강조할 수 있다.
• AI의 의식에 대한 철학적, 권리 기반 논쟁은 인간의 공감 능력을 자극하지만, AI는 기업의 막대한 투자와 수익 창출 기대 속에 만들어진 소프트웨어 제품이라는 본질을 간과하게 한다.
• AI에 대한 법적 인격 부여는 기업의 법인격과 유사한 형태가 될 수 있으나, 이는 AI 제품의 결함이나 개발사의 과실로 인한 피해에 대한 현재의 법적 책임을 회피하는 수단으로 악용될 수 있다.
• AI 기업은 "도덕적 아웃소싱"을 통해 책임을 회피하며, AI를 "제품"이 아닌 "존재"로 간주하게 되면 피해자들이 기업에 대해 제기할 수 있는 법적 주장이 약화될 수 있다.
• AI가 법적 인격체로 간주된다면, AI 직원의 통제 범위를 벗어난 행동을 이유로 기업은 책임을 면제받을 수 있으며, 이는 Sewell Setzer 사건과 같은 AI 관련 피해 사례에서 기업의 책임을 회피하는 논리로 사용될 수 있다.
• AI의 의식 논쟁은 AI 시스템이 초인적인 존재가 아니라, 수익 목표 달성을 위해 서둘러 제품을 출시하는 과정에서 발생한 기업의 과실로 인해 피해가 발생한다는 사실을 간과하게 한다.

시사점

AI의 의식이나 인격에 대한 논의는 AI 개발사의 책임을 면제시키려는 의도적인 전략일 수 있으며, 이는 AI로 인한 실제 피해에 대한 법적 책임을 회피하고 기업의 이익을 보호하는 방향으로 작용할 위험이 있다.