How the Pope’s Magnifica Humanitas offers a template for individuals to meet the AI moment

개요

교황 레오 14세의 회칙 'Magnifica Humanitas'는 기술이 중립적이지 않다는 점을 강조하며, 인공지능(AI) 시대를 맞아 인간들이 용기와 연대로 행동할 것을 촉구합니다.

주요 내용

* AI는 산업혁명 이후 가장 큰 변화를 가져올 기술이며, 인류는 바벨탑처럼 분열되거나 예루살렘 재건처럼 협력적 회복력을 보여주는 기로에 서 있습니다.
* AI는 초합리적인 존재가 아닌 상업적 제품이며, 소수의 손에 과도한 권력이 집중되는 시대에 등장했습니다.
* 정부 규제가 미흡하고 기업이 자체 이익 외의 이익을 신뢰하기 어려울 때, 시민 사회 구성원들은 올바른 방향을 설정할 힘과 의무가 있습니다.
* AI 시스템이 충분한 제도적 감독 없이 대규모로 배포되고 있으며, 현재의 규제는 AI 배포의 일부만 다룰 뿐입니다.
* 기관 투자자들은 AI 거버넌스 공백을 메우며, 수천억 달러 규모의 자산을 관리하는 투자자 연합들이 AI 배포에 대한 투명성, 위험 평가, 책임을 요구하는 주주 제안을 진행하고 있습니다.
* 기관 투자자들은 Alphabet, Amazon, Nvidia 등 기술 기업들에게 AI가 폭력이나 인권 침해에 사용되지 않도록 책임을 묻고 있으며, AI로 인한 환자 복지 및 의료 서비스 질 저하, 데이터 센터의 환경적 영향, 창작물에서의 인간적 요소 보호 등에 대해서도 문제를 제기하고 있습니다.
* 향후 OpenAI, Anthropic, Grok 등이 상장하면 비상장 기업들에 대해서도 유사한 영향력을 행사할 수 있을 것입니다.
* 이러한 투자자들의 행동은 기술을 사용하여 사람을 죽이거나 해치거나 억압하는 것은 잘못이며, 모든 인간은 안전하고 효과적인 의료 서비스와 존엄한 삶을 영위할 기회를 누릴 권리가 있다는 진실을 옹호합니다.
* AI 사용은 공공재와 기본권에 영향을 미칠 때 명확한 기준과 효과적인 감독에 의해 안내되어야 합니다.

시사점

교황의 회칙은 AI 시대에 기술 발전에 대한 윤리적, 사회적 책임을 강조하며, 특히 기관 투자자들이 주도하는 거버넌스 노력을 통해 AI의 잠재적 위험을 완화하고 인류의 공통된 인간성을 재건하는 데 기여할 수 있음을 시사합니다.