What Pope Leo XIV’s First Encyclical Says About the Power of AI

개요

교황 레오 14세의 첫 회칙 "Magnifica Humanitas"는 인공지능(AI)을 단순한 기술이 아닌, 현대 일상생활의 보이지 않는 기반 시설로 간주하며 인간 존엄성과 공동선을 중심으로 디지털 전환을 해석한다.

주요 내용

* AI는 현대 사회의 노동, 경제, 사회 관계를 재편하는 디지털 플랫폼, 알고리즘, 데이터, 자동화 시스템과 같은 새로운 'res novae'의 핵심 요소로 다루어진다.
* 회칙은 AI를 인간의 존재를 지배할 수 있는 권력의 형태로 만드는 것을 방지하는 것, 즉 'AI 무장 해제(disarming technology)'를 제안하며, 기술 자체보다는 그 조직과 적용 방식에 주목한다.
* AI는 고성능 알고리즘과 거대 데이터 센터를 향한 세계적인 경쟁의 일부이며, 이는 소수에게 디지털 인프라, 데이터, 컴퓨팅 능력을 집중시켜 정보, 경제, 민주주의에 영향을 미친다.
* 기술의 규제만으로는 부족하며, AI는 독점으로부터 벗어나 투명하고 도전 가능하며 다수의 행위자가 참여할 수 있는 '서식 가능한(habitable)' 환경이 되어야 한다.
* AI는 경제적, 정치적, 군사적 지배의 수단이 되는 것을 방지해야 하며, 경쟁 논리가 공유 인프라를 통제 시스템으로 변환하는 것을 막아야 한다.
* AI는 추천 시스템이 진실이 아닌, 주의와 참여를 극대화하는 기준에 따라 정보를 선택하기 때문에 집단적 진실 형성에 영향을 미친다.

시사점

AI의 무장 해제는 기술의 발전을 늦추는 것이 아니라, 인간 존엄성과 공동선을 보호하며 AI가 특정 집단의 지배 수단이 되지 않도록 윤리적이고 투명한 방식으로 조직하고 적용하는 것을 목표로 한다.