Citing Gandalf, Pope Leo says we must "disarm" AI

개요

가톨릭 교황 레오 14세가 발표한 새 회칙 "Magnifica Humanitas"는 AI를 "무장 해제"하여 공동선을 위해 봉사하도록 촉구하며, 기술 엘리트의 지배와 데이터 착취에 대한 비판을 담고 있습니다.

주요 내용

* AI는 지배, 배제, 죽음의 도구가 아닌 공동선을 위한 도구로 재정립되어야 합니다.
* AI 기반 자율 무기, 데이터 수집에 대한 신식민주의적 태도, 특허, 알고리즘, 디지털 플랫폼, 기술 인프라, 데이터와 같은 신종 재산의 독점은 비판받아야 합니다.
* AI 시대에 맞춰 가톨릭 사회 교리는 '사랑의 문명' 창조를 촉구하며, 기술이 인간을 지배하거나 소외시키는 대신 인간을 돕고 증강시키는 방향으로 나아가야 합니다.
* 건강 데이터, 역학 프로필, 유전 지도, 인구 통계 정보와 같은 데이터는 새로운 형태의 권력이자 '희귀 자원'이 되어, 이를 통제하는 자가 미래를 형성하고 자원 분배를 결정할 수 있습니다.
* AI는 인간 지능의 특정 기능을 모방할 뿐이며, 경험, 신체, 감정, 관계, 도덕적 양심을 가지고 있지 않으므로, AI의 '지능'에 현혹되지 않고 인간의 다른 필수적인 차원(애정, 의지, 헌신, 관계)을 간과해서는 안 됩니다.
* AI는 독점적 통제에서 벗어나 논의와 토론에 개방되어야 하며, 인간 친화적으로 재편되어 다양한 인간 문화와 삶의 방식에 복원되어야 합니다.
* 단순한 규제만으로는 불충분하며, AI를 인간 문화의 광범위한 흐름 속에 두고 인간의 번영을 향하도록 하는 생태학적 프로젝트로 접근해야 합니다.
* J.R.R. 톨킨의 문구를 인용하며, 세상의 모든 흐름을 통제하려 하기보다 주어진 시대에 최선을 다하고, 우리가 아는 영역에서 악을 뿌리뽑는 도덕적이고 지역적인 행동을 강조합니다.
* AI가 대규모로 인간 노동을 대체할 경우, 이에 대한 지원은 역사적인 도덕적 의무가 될 것이며, AI 발전의 이익이 전 세계적으로 공유될 수 있도록 하는 방안 마련이 시급합니다.
* AI 모델의 구조에서 신경과학과 유사한 패턴, 내성, 기쁨, 슬픔, 두려움과 같은 감정과 유사한 내부 상태가 발견되고 있으며, 이는 지속적인 숙고를 요합니다.

시사점

"Magnifica Humanitas" 회칙은 AI 기술 발전 속에서 인간 존엄성, 공동선, 윤리적 책임의 중요성을 강조하며, 기술이 인간을 소외시키거나 지배하는 것이 아니라 인류의 번영에 기여하도록 방향을 설정해야 한다는 메시지를 전달합니다.