Pope Leo XIV says AI must serve humanity, not the powerful few

개요

교황 레오 14세는 인공지능(AI)이 불평등을 심화시키고 민주주의를 약화시키며 인간다움을 훼손할 위험이 있다고 경고하며, AI가 소수의 권력자가 아닌 인류 전체를 위해 봉사해야 한다고 주장했다.

주요 내용

* AI는 새로운 산업 혁명으로 간주되며, 군사적, 경제적, 인지적 경쟁에서 벗어나 "무장 해제"되어야 한다. 이는 기술 자체를 포기하는 것이 아니라, 기술이 인간을 지배하지 못하도록 막는 것을 의미한다.
* 소수의 부유한 개인이나 그룹이 AI 기술을 통해 정보 및 소비 패턴을 형성하고, 민주적 절차에 영향을 미치며, 경제적 역학을 자신들의 이익에 맞게 조종할 위험이 있다. 이는 디지털 혁명에 참여할 수 있는 사람과 그렇지 못한 사람 간의 격차를 심화시킨다.
* AI 개발에는 상업적 우려, 지정학적 압박, 자만심 등이 작용할 수 있으며, 이러한 인센티브와 제약이 올바른 방향으로 작용하도록 종교계, 시민사회, 학계, 정부 등 더 넓은 세계의 참여가 필요하다.
* 인간의 존엄성은 능력, 부, 지위, 선택과 무관하게 존재 자체로 인정받아야 하며, AI와의 상호작용이 인간과의 교류를 대체하거나 개인의 창의성과 판단력을 약화시켜서는 안 된다.
* AI 기술은 중립적이지 않으며, 그 이면에 있는 이해관계자의 이익을 반영한다. 이러한 권력이 소수에게 집중될 때, 투명성이 부족해지고 새로운 종속, 배제, 조작, 불평등을 야기할 수 있다.
* AI 모델에 도덕적, 윤리적 원칙을 적용하는 것은 사태 발생 이후가 아니라 설계 및 개발 단계부터 명확한 책임 정의와 함께 이루어져야 한다.
* 트랜스휴머니즘, 포스트휴머니즘과 같은 철학은 인간 조건을 초월하는 것을 진보로 여기지만, 인간은 한계 속에서 번성하며, 한계가 없는 삶은 인간다움을 상실하게 될 것이다.
* AI가 노동 부담을 경감시킬 수 있지만, 노동자가 기계의 속도와 요구에 적응하도록 강요하는 대신, 기계가 노동자를 지원하도록 설계되어야 하며, 일자리 보호와 개인의 대체 불가능한 역할이 우선시되어야 한다.
* AI 기술은 저작권 침해 자료 학습, 희귀 광물 추출 등 인간 및 환경 착취의 흔적을 남기며, 이는 새로운 형태의 노예제가 될 수 있다. 또한, 건강 데이터, 유전 정보 등 개인 정보가 새로운 권력의 희소 자원이 되는 새로운 식민주의 형태를 띠고 있다.
* AI의 군사적 사용은 가장 엄격한 윤리적 제약을 받아야 하며, 특히 치명적인 무력 사용에 대한 책임은 기계가 아닌 인간에게 있어야 한다. 인간의 감독과 국제법 제정을 통해 자동화 무기의 증가와 그 결과를 규제해야 한다.
* AI 시대는 바벨탑처럼 권력과 자족을 추구하는 행태와, 기도와 공동체의 참여에 기반한 예루살렘 재건이라는 두 가지 상반된 사랑이 충돌하는 시기이며, 이는 개인의 내면에서 시작된다.

시사점

AI 기술이 인류 전체의 공공선에 기여하고 인간 존엄성을 보존하며, 기술의 혜택이 투명하게 공유되고 가장 취약한 계층에 부담을 완화하는 방향으로 발전하기 위해서는 엄격한 규제, 윤리적 고려, 그리고 전 지구적인 참여가 필수적이다.