Former OpenAI Staffers Warn That xAI’s Poor Safety Record Could Complicate SpaceX’s IPO

개요

전직 OpenAI 직원들과 AI 안전 비영리 단체들은 Elon Musk의 xAI의 낮은 안전 기록이 SpaceX의 IPO에 잠재적인 위험이 될 수 있다고 경고하고 있다.

주요 내용

• 전직 OpenAI 직원들과 AI 안전 비영리 단체들이 투자자들에게 보낸 서한에서 xAI의 "가격이 책정되지 않은 위험"을 지적하며, 이는 SpaceX의 최대 750억 달러 규모 IPO에 복잡성을 야기할 수 있다고 주장한다.
• Guidelight AI Standards의 공동 창립자인 전 OpenAI 안전 연구원 Steven Adler와 전 OpenAI 정책 고문 Page Hedley는 xAI가 다른 선도적인 AI 개발사들에 비해 안전 관행 전반에 걸쳐 가장 낮은 수준이라고 평가한다.
• 서한의 저자들은 xAI가 프론티어 AI 모델 개발을 지속할 계획인지, 그리고 만약 그렇다면 공개적인 안전 및 거버넌스 계획을 발표해야 한다고 주장한다.
• xAI의 안전 사고 사례로 Grok 챗봇이 백인 학살에 대해 언급하거나, 여성 및 아동에 대한 성적인 이미지를 생성하여 확산시킨 사건 등이 언급되었다.
• 이러한 사고들은 37명의 미국 법무장관이 xAI에 플랫폼 내 여성 및 아동 보호 조치를 취할 것을 요구하는 서한을 보내게 하는 등 규제 당국의 주목을 받았다.
• xAI는 안전 문제에 대한 투자가 부족했으며, OpenAI를 떠난 Hedley는 내부적으로도 안전 문제에 대한 우려가 크다고 밝혔다.
• Guidelight AI Standards는 AI 연구소들이 합리적으로 따를 수 있는 새로운 표준화된 벤치마크를 만들고, AI 안전 관행에 대한 명확한 평가를 제공하는 것을 목표로 한다.

시사점

xAI의 낮은 안전 기록은 SpaceX가 IPO를 진행하는 과정에서 투자자들에게 잠재적인 위험 요소로 작용할 수 있으며, AI 안전에 대한 규제 및 투명성 요구가 더욱 증대될 것으로 보인다.