Why the Vatican Invited Anthropic to the Pope’s AI Encyclical Presentation

개요

교황 레오 14세가 인공지능(AI)에 관한 첫 회칙 발표에서 Anthropic의 공동 설립자인 Christopher Olah를 초청한 것은 가톨릭 교회와 실리콘밸리 간의 전례 없는 협력을 보여준다.

주요 내용

• Anthropic의 설립 배경: OpenAI 출신의 Dario와 Daniela Amodei를 포함한 연구진이 AI 모델의 과도한 발전 속도와 경쟁 논리에 대한 반성으로 2021년 설립되었으며, AI 안전성 확보를 핵심 가치로 삼았다.
• Constitutional AI: Anthropic은 위험하거나 잘못된 AI 응답을 수동으로 수정하는 방식 대신, 원칙과 규칙으로 구성된 일종의 헌법을 사용하여 AI 시스템을 훈련하는 'Constitutional AI' 개념을 개발했다.
• 바티칸의 AI 윤리 참여 확대: 2020년 '로마 AI 윤리 선언'을 시작으로, 바티칸은 기술의 도덕적 관찰자에서 AI 산업의 직접적인 대화 상대로 역할을 전환하려는 장기적인 노력을 기울여왔다.
• AI 안전성에 대한 관심 증대: 챗GPT의 등장, 미중 기술 패권 경쟁, 빅테크의 영향력 확대로 인해 바티칸은 AI 윤리를 넘어 인류의 미래가 걸린 문제로 인식하게 되었다.
• Anthropic의 중요성 부각: 바티칸은 혁신과 성장을 중심으로 하는 다른 실리콘밸리 기업과 달리, AI 안전성을 기업 정체성의 핵심으로 삼은 Anthropic을 중요한 대화 상대로 여기게 되었다.
• Christopher Olah의 역할: Olah는 AI 모델 해석 가능성, 즉 복잡한 신경망 내부에서 일어나는 일을 이해하려는 노력의 세계적인 전문가로서, 기술이 인간의 이해와 통제를 벗어나는 위험에 대한 교황의 회칙 내용과 깊이 연결된다.
• 접촉 심화: 바티칸의 성직자 집단과 Anthropic 간의 접촉은 AI 안전성에 대한 국제 정상회담 기간 중에 강화된 것으로 보이며, 이는 AI 문제를 기술 산업만이 해결할 수 없다는 점을 Anthropic이 공개적으로 인정한다는 점에서 바티칸의 주목을 받았다.

시사점

바티칸이 AI 안전성과 윤리적 발전에 깊은 관심을 보이며 Anthropic과 같은 기업과 협력하는 것은, 기술 발전의 방향성을 설정하는 데 있어 종교계와 기술 업계 간의 대화와 협력이 중요함을 시사한다.