Dr. Jill Lepore on why AI backlash is vital for the future

개요

Dr. Jill Lepore의 저서 "The Rise and Fall of the Artificial State"는 인공지능과 측정 기술이 인간의 삶을 어떻게 평평하게 만들고, 이러한 '인공 국가'가 기존의 자유주의 국가를 대체할 위험이 있다고 경고한다.

주요 내용

* 인공 국가의 정의: 인공 국가는 국가의 기능이 점점 더 민간 다국적 기업에 의해 수행되는 상태를 의미하며, 공개 담론은 아이디어의 자유로운 표현보다는 주의와 분노의 수익화를 우선시한다.
* 측정과 비인간화: 과거부터 존재해 온 측정이 데이터로 축적되고 이를 기반으로 행동하는 시스템적인 측정 행위는 인간적인 관심을 인공적인 것으로 평평하게 만드는 비인간적인 행위이다.
* 정치와 시스템의 변화: 1930년대 과학적 여론 조사의 등장과 1980년대 개인용 컴퓨터 및 마이크로 타겟팅의 확산은 시민 사회를 유지하는 대면 대화를 데이터 추출로 대체하며 정치의 인공성을 심화시켰다.
* AI의 역할: 현재 선거에서는 ChatGPT와 같은 AI가 투표 결정에 영향을 미치고 AI로 캠페인 메시지가 제작되며, AI가 캠페인 메시지 노출 여부를 결정하는 등 AI 대 AI의 경쟁이 이루어지고 있다.
* 기술 문화의 비인본주의적 특성: 실리콘밸리의 기술 문화는 과거의 지식과 지혜를 경시하고, '혁신'과 '파괴'를 통해 미래를 재창조하려는 경향이 강하며, 지식 자체의 가치보다는 돈을 추출하는 데 집중하는 도구적 사고방식을 보인다.
* 민주주의의 퇴보: 개인용 컴퓨터, 인터넷, 소셜 미디어의 등장이 민주주의를 진전시킬 것이라는 약속은 점차 실현되지 않았으며, 오히려 정치 엘리트들이 미디어를 통제하고 권력을 재집결하는 경향이 나타난다.
* 정체성 정치와 타겟팅: 오늘날의 정체성 정치는 컴퓨터 기반의 분류 및 타겟팅을 통해 가능해졌으며, 알고리즘이 사람들을 모아 하나의 집단으로 만들고 정치적 영향력을 행사하게 한다.
* 의사 결정에서의 AI: 개인화된 뉴스 제공, AI의 대통령 선출 제안 등은 효율성을 이유로 인간의 참여와 숙고 과정을 생략하려는 경향을 보여준다.
* 엘리트의 권력 재집결: 과거 커뮤니케이션 기술 혁신이 대중에게 권력을 이전시키던 것과 달리, 현재의 기술 발전은 오히려 엘리트의 권력 재집결을 가속화하며, 창작자나 일반인의 일자리 감소와 경제적 불안정을 초래한다.

시사점

기술 발전이 가져온 측정과 자동화는 민주주의의 핵심 요소인 시민적 참여와 숙의 과정을 약화시키며, 개인의 정치적 결정과 사회 구조를 왜곡할 수 있다는 점을 시사한다.