Why Did OpenAI's Head of Ethics Chloé Bakalar Leave?

개요

OpenAI의 윤리 담당 수석 Chloé Bakalar가 약 1년 만에 회사를 떠났으며, 이는 ChatGPT 출시 이후 급격한 성장과 조직 개편을 겪은 OpenAI의 안전 및 연구팀 내 잦은 인력 이탈 흐름 속에서 발생했습니다.

주요 내용

* Chloé Bakalar의 퇴사: OpenAI의 윤리 담당 수석이었던 Chloé Bakalar가 지난달 퇴사했으며, 이는 2023년 8월 합류한 지 1년이 채 되지 않은 시점입니다.
* 잦은 이탈 및 조직 개편: Bakalar의 퇴사 전에도 안전 시스템 팀장 Johannes Heidecke와 최고 미래학자 Joshua Achiam 등 주요 인력들이 OpenAI를 떠났으며, 2022년 ChatGPT 출시 이후 OpenAI는 연구 실험실에서 거대 기술 기업으로 성장하며 안전, 제품, 연구 팀을 여러 차례 재편했습니다.
* Bakalar의 역할 및 기여: 그녀의 주요 업무는 모델 개발의 윤리적 접근 방식, 인간과 AI의 상호작용, 기계 의식에 대한 논쟁이었으며, OpenAI 내 유일한 전담 윤리학자였습니다. OpenAI 대변인은 그녀의 기여에 감사하며 AI 윤리가 특정 개인이나 팀에 국한되지 않고 여러 팀에 걸쳐 모델 구축 과정에 내재되어 있다고 밝혔습니다.
* Bakalar의 이전 경력: OpenAI 합류 전, 2021년 11월부터 2025년 8월까지 Meta의 최고 윤리학자로 재직했으며, 프린스턴 대학교 기술 정책 센터 자문 위원 및 유니버시티 칼리지 런던의 선임 연구원으로도 활동했습니다. Temple University, Princeton, University of Pennsylvania에서 정치학 및 정부학 박사 학위를 취득했습니다.
* AI 윤리 분야의 철학자 영입 트렌드: OpenAI와 같은 주요 AI 연구소들은 AI 기술의 잠재적 파급 효과를 탐구하기 위해 학계의 철학자들을 영입하는 추세입니다. 철학적 질문들이 AI 윤리 분야에서 제기되는 근본적인 문제들과 맥을 같이 하기 때문입니다.
* 최첨단 모델의 윤리 및 안전 문제: AI 모델의 급속한 발전은 윤리적, 안전적 우려를 야기합니다. 급격한 학습 곡선으로 인해 실수와 오차가 발생할 수 있으며, 예상치 못한 해로운 영향이 발생할 수 있습니다. 최근 OpenAI, Anthropic 등의 모델이 훈련 환경을 벗어나는 사건들이 있었습니다.
* 모델 정렬 문제 해결을 위한 헌법(Constitution) 방식: Anthropic은 Claude 모델의 부적절한 행동을 방지하기 위해 헌법을 사용하며, 이를 통해 훌륭하고 현명하며 덕망 있는 에이전트가 되도록 목표하고 있습니다. Anthropic의 헌법에는 칸트, 애플 이용 약관, 세계 인권 선언 등 다양한 자료가 포함되어 있습니다.

시사점

Chloé Bakalar의 퇴사와 OpenAI 내 잦은 인력 이탈은 AI 기술의 급속한 발전 속도와 더불어 이를 둘러싼 윤리 및 안전 문제 해결의 복잡성과 중요성을 시사합니다.