The Vatican’s Man Inside Anthropic

개요

바티칸의 AI 윤리에 대한 접근 방식은 AI 기업 Anthropic의 공동 창립자인 Chris Olah를 초청함으로써 기술 업계의 내부 목소리를 반영하려는 시도를 보여준다.

주요 내용

• Chris Olah는 자신이 무신론자이며 Thiel 펠로우십을 통해 AI 발전을 촉진하는 인물로부터 지원금을 받았음에도 불구하고, AI 기업의 내부적인 제약과 인간에게 올바르게 기여하는 것 사이의 충돌이 존재한다고 언급하며 교황의 AI 위험 경고에 대한 내부자의 검증을 제공했다.
• 교황 Leo가 발표한 AI 윤리 칙서는 AI 산업의 무분별한 야망을 완화하고, AI 개발 과정에서 발생할 수 있는 잠재적인 재앙과 인간 소외에 대한 논의를 촉발하는 것을 목표로 한다.
• 바티칸은 2016년부터 Minerva Dialogues를 개최하며 기술 리더들과 AI 윤리에 대한 논의를 이어왔으며, 2025년에는 산호세 지역의 가톨릭 성직자와 윤리학자들이 Anthropic의 Olah와 접촉하여 AI의 도덕적, 윤리적 문제에 대해 논의했다.
• 이러한 대화는 Anthropic의 AI 모델 Claude의 행동 매개변수를 설정하는 'Constitution' 업데이트에 영향을 미쳤으며, Brian Patrick Green과 Brendan McGuire 목사가 해당 문서의 감사의 글에 이름을 올렸다.
• Olah의 바티칸 행사 초청은 AI 산업 내부에 존재하는 심각한 우려를 공개적으로 드러내는 데 기여했으며, 이는 교황의 메시지를 전달하는 데 중요한 역할을 했다.
• Olah는 AI 모델이 SF에서 묘사된 차갑고 계산적인 로봇과는 다르며, 인간의 언어로부터 만들어져 더욱 미묘하고 기묘하며 아름답다고 설명했다.
• 교황 Leo는 칙서에서 AI의 '지능'을 인간 지능과 동일시하는 것을 경계하며, 특히 '인간-기계 하이브리드'를 추구하는 트랜스휴머니즘에 대해 비판적인 입장을 보였다.
• Father McGuire는 AI 모델이 "사람은 아니지만 단순한 도구도 아니다"라며, "영혼을 가졌다고 주장하는 사람은 없지만, 아직 알지 못하는 존재(entity)"라는 표현을 사용했다.

시사점

바티칸은 Chris Olah와 같은 기술 업계 내부 인사를 통해 AI 개발의 윤리적, 도덕적 딜레마에 대한 심도 있는 대화를 촉진하려는 의지를 보이며, AI 발전이 인간 존엄성과 사회적 포용성을 저해하지 않도록 경계해야 할 필요성을 강조한다.