Elon Musk’s lawsuit is putting OpenAI’s safety record under the microscope

개요

일론 머스크의 OpenAI 해체 소송은 OpenAI의 영리 자회사가 인류에게 인공 일반 지능(AGI)의 혜택을 보장한다는 설립 임무를 어떻게 향상시키거나 저해하는지에 달려있으며, 전 직원의 증언은 AI 제품 출시가 AI 안전에 대한 약속을 훼손했다는 주장을 뒷받침하고 있다.

주요 내용

* Rosie Campbell 전 직원은 OpenAI 입사 당시 연구 중심적이었던 분위기가 시간이 지나면서 제품 중심 조직으로 변모했다고 증언했다.
* Campbell은 Microsoft가 OpenAI의 GPT-4 모델 평가 전에 Bing 검색 엔진에 배포한 사례를 언급하며, 강력한 안전 조치가 마련되기 전에 모델을 출시하는 것은 조직의 임무에 부합하지 않는다고 지적했다.
* 2023년 Sam Altman CEO가 비영리 이사회에 의해 해고되었다가 복귀하는 과정에서, 이사회의 Altman에 대한 정보 공개 부족 및 잠재적 이해 상충 공개 미흡에 대한 우려가 제기되었다.
* 전직 이사회 멤버인 Tasha McCauley는 영리 조직을 감독해야 하는 비영리 이사회의 권한이 약화되었고, 의사 결정에 필요한 충분한 신뢰를 갖지 못했다고 증언했다.
* David Schizer 전 컬럼비아 로스쿨 학장은 OpenAI가 안전을 최우선으로 삼는다는 점을 강조하며, 안전 규칙을 심각하게 받아들이고 필요한 안전 검토를 거쳐야 한다고 주장했다.
* McCauley는 OpenAI 내부 거버넌스의 실패가 첨단 AI에 대한 더 강력한 정부 규제를 받아들여야 하는 이유가 된다고 언급하며, CEO 한 명이 결정을 내리는 상황은 공공의 이익에 매우 부적합하다고 평가했다.

시사점

OpenAI의 거버넌스 및 안전 절차에 대한 법적 논란은 AI 개발 및 상용화 과정에서 안전과 영리 추구 사이의 균형, 그리고 투명하고 책임감 있는 의사 결정 구조의 중요성을 시사한다. 이러한 내부 거버넌스의 실패는 첨단 AI 분야에 대한 외부 규제 강화 필요성을 제기한다.