These AI Barons Are Ready to Give Away Their Fortunes

개요

AI 분야의 억만장자들이 자신의 막대한 부를 자선 단체에 기부하겠다는 서약을 늘리고 있으며, 이는 AI 산업의 성장과 함께 기술 자선 활동의 비중이 커지고 있음을 시사한다.

주요 내용

* David Silver의 자선 서약: 딥마인드 출신의 AI 연구자인 David Silver는 자신이 설립한 AI 연구소 Ineffable Intelligence에서 발생하는 수익 전부를 자선 단체에 기부하겠다고 밝혔다. 이는 11억 달러 규모의 초기 투자 유치와 함께 이루어졌으며, 향후 회사 매각 대금도 기부할 예정이다.
* AI 창업가들의 기부 동향: Silver 외에도 Mustafa Suleyman (Microsoft AI CEO)과 Anton Osika (Lovable 창업자) 등 AI 분야의 여러 창업가들이 자신의 지분 수익을 자선 단체에 기부하겠다고 약속했다. OpenAI와 Anthropic의 상장 가능성과 함께 AI 산업에서 기술 자선 활동이 더욱 확대될 전망이다.
* Founders Pledge: Silver는 비영리 단체 Founders Pledge를 통해 자선 서약을 공식화했다. Founders Pledge는 기업가들이 자신의 부를 기부하도록 돕는 단체로, 단순한 서약이 아닌 계약 기반의 구속력 있는 약정을 요구한다. 최근 이 단체의 약정 규모가 급증했으며, AI 산업이 전체 약정액의 상당 부분을 차지하고 있다.
* 효과적 이타주의와의 관계: Founders Pledge의 공동 창립자 David Goldberg는 효과적 이타주의와의 유사성을 인정하면서도, 현재의 인간 고통 해결에 더 집중하는 "인본주의적" 성향을 강조한다. Silver 역시 현재에 집중하는 효과적 이타주의 성향을 보이며, 즉각적인 생명 구제에 기여할 수 있는 단체에 기부할 계획이다.
* 기술 자선의 딜레마: 이러한 기술 자선 활동은 부의 재분배 방식, 거대 기부자의 영향력, 그리고 그들이 해결하려는 문제의 근본 원인에 대한 의문을 제기한다. 일부 비평가들은 자본주의적 관행으로 발생한 문제를 자본주의적 방식으로 해결하려는 시도가 근본적인 해결책이 되지 못한다고 지적한다.
* 거대 기부자의 책임과 영향력: 거대 기부자는 정부가 이념적 이유로 소외되는 분야를 지원할 수 있지만, 선출되지 않았기에 결정에 대한 책임을 덜 진다는 비판이 있다. 또한, 기부금에 의존하는 경우 WHO와 같은 국제기구가 기부자의 선호 분야에 우선순위를 두어 다른 긴급한 문제를 간과할 수 있다는 연구 결과도 있다.
* 파멸적 행동의 도덕적 정당화 가능성: Sam Bankman-Fried 사례는 효과적 이타주의와 같은 철학이 결과 중심적 사고로 인해 파멸적인 행동을 정당화하는 데 사용될 수 있다는 우려를 보여준다. AI 분야에서는 초지능 개발 경쟁에서 잠재적 위험을 무시하고 수익 창출을 통한 자선 활동을 우선시하는 위험이 제기된다.
* Silver의 반론: Silver는 자신의 기부 서약이 위험 계산이나 부정적인 결과에 대한 헤지 수단이 아니라고 일축한다. 그는 초지능이 인류에게 긍정적인 영향을 미칠 것이라 믿으며, 기부 서약은 AI 개발을 잘못된 방향으로 이끌 수 있는 금전적 인센티브를 제거하는 역할을 한다고 주장한다. 그는 개인적인 탐욕이 아닌 인류 전체의 이익을 위해 행동하고자 함을 강조한다.

시사점

AI 산업의 성장이 기술 자선 활동의 규모와 중요성을 증대시키고 있지만, 이러한 기부 방식의 효과성, 거대 기부자의 영향력, 그리고 근본적인 사회 문제 해결에 대한 질문은 여전히 유효하며 지속적인 논의가 필요하다.