OpenAI’s Chief Futurist Is Leaving the Company

개요

OpenAI의 최고 미래학자(Chief Futurist)인 Joshua Achiam이 9년간의 재직 후 이달 말 회사를 떠난다.

주요 내용

• Joshua Achiam은 자신의 퇴사가 특정 이유 때문이 아니라, 오랜 기간 고민해 온 결과이며, 조직 외부에서도 AI의 사명(mission)을 위해 일할 수 있다고 밝혔다.
• Achiam의 역할은 AI 안전 및 정책 팀과 연계되어 있었으며, 인공지능의 잠재적 위험과 이점을 연구하는 업무를 포함했다.
• OpenAI는 ChatGPT 출시 이후 조직 개편을 여러 차례 진행했으며, 2024년 Achiam이 이끄는 '사명 일치 팀(mission alignment team)'을 구성했으나, 2월에 해체하고 Achiam을 최고 미래학자로 임명했다.
• OpenAI는 AI 연구 및 정책 팀 간의 협력을 강화하며 기술 발전에 대한 규칙과 표준을 개발하려 노력해왔다.
• 최근 OpenAI의 전략 미래(strategic futures) 책임자로 Dean Ball이 합류했으며, 그는 Achiam과 잠시 업무를 병행할 예정이다.
• Achiam은 OpenAI의 안전 중심 리더 중 최근 퇴사하는 인물이며, 이 회사를 떠나는 안전 관련 리더들의 증가세에 합류했다.
• 이전에도 Superalignment 팀 공동 책임자였던 Jan Leike, 정책 연구 책임자 Miles Brundage, 위험 역량 연구 책임자 Steven Adler 등이 OpenAI를 떠나 AI 안전을 위한 비영리 단체 설립 또는 다른 AI 기업으로 이직했다.
• Achiam은 2017년 인턴으로 OpenAI에 합류하여 AI 안전 연구원으로 활동했으며, OpenAI의 안전 사명을 옹호하는 동시에 AI 안전 커뮤니티에 대한 비판적인 시각으로 알려지기도 했다.
• 2018년 Elon Musk가 OpenAI를 떠날 당시, Achiam은 Musk의 Tesla에서의 AGI 개발 계획이 안전을 희생시킬 수 있다는 우려를 제기했으며, 이와 관련된 일화가 소개되었다.

시사점

Joshua Achiam의 퇴사는 OpenAI의 핵심 인력 변동 및 AI 안전과 관련된 조직의 지속적인 변화를 보여주며, AI의 미래와 안전에 대한 다양한 관점이 존재함을 시사한다.