AI as a Fascist Artifact

개요

"AI as a Fascist Artifact"라는 제목의 이 글은 현대 기술, 특히 AI가 가진 구조적 특성과 전체주의적 사고방식이 어떻게 상호 연관되는지 탐구하며, AI가 가진 잠재적 위험성을 파시즘적 관점에서 분석합니다.

주요 내용

* 기술과 사회의 관계: 디지털 플랫폼과 AI 시스템은 우리의 일상, 업무, 정부와의 상호작용을 구조화하며, 우리가 보고 듣는 정보, 소통할 수 있는 대상을 제한합니다.
* 파시즘의 부상과 AI: 전 세계적으로 파시즘적 움직임이 확산되는 가운데, AI는 기술 업계의 주된 관심사이자 국가와 기업이 미래를 기대하는 기술로 부상하고 있습니다.
* AI와 파시즘의 연결점 (1): 행위자 중심의 관점: 트럼프 행정부의 파시즘적 선전물 제작, 팔란티어 CEO의 폭력적 발언, 마크 안드레센의 기술 낙관론 등은 AI와 파시즘의 직접적인 연결성을 보여줍니다.
* AI와 파시즘의 연결점 (2): 구조적 정치성: 랭던 위너의 "기술은 정치를 가지는가?"라는 논의를 바탕으로, AI와 같은 기술의 정치성은 사용자의 목적뿐 아니라 기술을 구축하는 사람들의 정치적 관점과 기술 자체의 내부 구조에 내재되어 있음을 지적합니다.
* AI의 정치적 본질: AI는 단순히 기술적 산물이 아니라, 권한과 자율성을 개인으로부터 중앙 집권적 권력 구조로 이동시키는 이념적 프로젝트이며, 민주화를 상품화와 혼동하는 경향이 있습니다.
* AI의 데이터 수집과 편향성: 인터넷 등에서 수집되는 데이터는 인종, 식민주의, 성차별, 이성애 중심적 이해를 반영하며, 이는 AI 출력물의 편향성을 야기하고 파시즘적 편견을 강화합니다.
* AI와 창작 산업의 관계: AI가 창작 산업의 일자리를 대체함으로써 기존에 진보적이고 포용적인 성향을 가진 창작자들의 생계를 위협하는 것은 우익 세력에게 권력 과시의 수단으로 작용합니다.
* AI의 구조적 폭력성: AI 시스템은 데이터 획득, 레이블링, 정제 과정에서 데이터 노동자의 착취와 정신적 고통을 유발하며, 서구 중심의 세계관을 강요하는 식민주의적 폭력을 포함합니다.
* AI와 네크로폴리틱스: AI는 누가 살고 죽을지를 결정하는 '네크로폴리틱스'를 가능하게 하며, 소수 엘리트가 통제하는 시스템 속에서 개인의 삶에 대한 결정권을 박탈합니다.
* AI와 노동력 파괴: AI는 노동자의 개별적 힘을 약화시키고, 연대감을 해치며, 동료 노동자를 경쟁자로 인식하게 함으로써 노동력을 파괴하고 중앙 집권적 권력을 강화합니다.
* AI와 불신 조장: AI는 조작된 미디어를 쉽게 생성하여 상호 불신을 심화시키고, 저널리즘, 학계와 같은 신뢰할 수 있는 정보 생산 및 검증 시스템을 약화시킵니다.
* AI와 과학적 사고의 저해: AI는 비판적 사고와 문제 해결 능력을 저해하며, 인간의 지능과 판단 능력을 외부 시스템에 의존하게 만들어 인식론적 불의를 야기합니다.
* AI의 강제적 도입과 민주주의 약화: AI는 소비자가 선택할 여지 없이 사회 전반에 강제적으로 도입되고 있으며, 정부 시스템에 통합되면서 투명성과 책임성을 핵심으로 하는 민주주의의 근간을 흔들고 있습니다.
* AI의 종교적 서사: AI는 마치 종교와 같이 해결되지 않는 문제를 해결하고 이상향을 가져다줄 것이라는 믿음을 강요하며, 규제를 반대하는 세력들을 '적'으로 규정하는 파시즘적 서사와 유사합니다.
* AI와 반인권적 사고: AI는 인간을 목적 달성을 위한 수단으로 간주하고, 개인의 비판적 사고와 미래 설계 참여 권리를 박탈함으로써 파시즘적 사고방식을 내면화하게 합니다.
* AI와 파시즘의 내재적 논리: AI 사용자 자신이 파시스트가 아니더라도, AI 시스템을 사용함으로써 파시즘적 경향성을 '정상'으로 받아들이게 되며, 이는 연대와 인간성을 해치는 방향으로 사고를 구조화합니다.
* 기술 전반의 파시즘적 경향: AI뿐만 아니라 블록체인, 감시 기술 등 많은 현대 기술들이 반인권적이고 반민주적인 아이디어를 내포하고 있으며, 이들에 대한 명시적인 반파시즘적 접근이 부족합니다.
* 오픈 소스의 한계: 오픈 소스 라이선스는 정치적 가치보다는 개인의 자유와 표현을 중시하며, 무기 사용이나 비사회적 목적으로의 활용을 금지하지 않아 파시즘에 대항하는 데 한계가 있습니다.
* 반파시즘적 기술과 사회 구조의 필요성: 파시즘적 사고방식을 거부하고, 인간 중심적이고 민주적인 사회 구조 속에서 반파시즘적 기술을 개발하고 적용해야 합니다.

시사점

AI와 같은 신기술이 가진 구조적 정치성과 파시즘적 경향을 비판적으로 인식하고, 기술 개발 및 사용 과정에서 인간 존엄성, 민주주의 원칙, 연대 의식을 함양하는 반파시즘적 기술과 사회 구조를 적극적으로 구축해야 합니다.