The pope’s AI encyclical isn’t really about AI

개요

교황 레오 14세의 회칙 "Magnifica Humanitas"는 인공지능(AI) 시대를 맞아 인간을 보호하는 것을 주제로 하지만, 실제로는 불평등, 전쟁, 민주주의 약화, 소수 엘리트의 권력 집중 등 AI 이전부터 존재했던 심화된 문제들을 다룬다.

주요 내용

* 회칙은 소수의 엘리트가 구축하고 통제하는 기술은 본질적으로 공공의 이익에 봉사할 수 없으며, 이러한 권력 집중은 불투명성과 감시 회피를 초래하고 새로운 의존, 배제, 조작, 불평등을 야기한다고 주장한다.
* AI는 이미 경제적 자원, 전문 지식, 데이터 접근권을 가진 이들의 힘을 증폭시키는 경향이 있으며, 엘리트들은 이를 통해 정보 및 소비 패턴을 형성하고, 민주적 과정을 왜곡하며, 경제 역학을 자신들에게 유리하게 조종할 수 있다는 우려를 제기한다.
* 이는 AI에 대한 정부의 사전 감독을 강화하려던 도널드 트럼프 대통령의 행정명령 지연 결정과 같은 정치적 상황과 맞물린다.
* 회칙은 AI가 "명확한 기준과 효과적인 감독"에 의해 안내되어야 하며, 영향받는 커뮤니티의 참여를 기반으로 해야 한다고 촉구한다.
* 또한, 기업과 국가가 지정학적 또는 상업적 지배력을 확보할 것이라는 믿음으로 추구하는 "더욱 강력한 알고리즘과 더 큰 데이터셋"을 향한 AI 군비 경쟁의 종식을 요구하며, "무장 해제는 기술적 힘이 자동으로 통치권을 부여한다는 가정을 불신하는 것"을 의미한다고 강조한다.
* 이러한 권력 집중 문제는 산업혁명 시기 교황 레오 13세의 회칙 "Rerum Novarum"에서도 다루어졌던 것이며, 일론 머스크의 트위터 인수 및 활용, AI 규제 반대를 위한 기술 엘리트들의 막대한 자금 투입 등도 유사한 패턴을 보여준다.
* AI 기술의 발달은 이러한 기존의 문제들을 훨씬 더 심각한 수준으로 끌어올리며, AI로 인한 허위 정보 및 딥페이크는 진실을 인식하는 능력을 침식시켜 민주주의 정치에 심각한 결과를 초래하며, 인간 데이터의 수확 및 조작 관행은 인지적 자유에 근본적인 도전을 제기한다.

시사점

이 회칙은 AI가 사회의 기존 불평등과 권력 불균형을 심화시킬 위험이 있음을 경고하며, 기술 발전이 인간의 존엄성과 공동선의 증진에 기여하기 위해서는 참여적이고 윤리적인 거버넌스 구조가 필수적임을 강조한다.