AI leaders sign a statement asking the government to do something about automated AI

개요

선도적인 AI 연구소 직원들이 미국 정부에 첨단 AI 개발 속도를 늦추거나 최소한 글로벌 조정된 거버넌스 노력을 가속화할 것을 요청하는 성명을 발표했습니다.

주요 내용

* OpenAI, Anthropic, Google, Meta, Microsoft 등 주요 AI 기업의 직원들은 AI 연구의 자동화가 임박했으며, 이로 인해 AI 능력 발전이 통제할 수 없는 수준으로 급속히 가속될 위험이 있다고 경고했습니다.
* 성명은 AI의 잠재력을 실현하기 위해 산업, 정부, 사회 전반에 걸쳐 새로운 위험에 대처하고 보안 조치를 개발하며 감독을 강화할 시간을 확보할 필요가 있다고 강조했습니다.
* 현재로서는 국제적인 기술 및 거버넌스 도구가 부족하여 AI의 발전 속도를 의도적으로 조절하기 어렵다는 점을 지적했습니다.
* 첨단 AI 개발의 속도를 조절하는 데 필요한 기술 및 거버넌스 도구를 개발하기 위한 국제적 노력을 미국 정부가 지원해 줄 것을 요청했습니다.
* OpenAI의 Mark Chen 최고 연구 책임자, Jakub Pachocki 최고 과학자, John Schulman 공동 창립자, Wojciech Zaremba 공동 창립자 등이 서명에 참여했습니다.
* Anthropic에서는 Jack Clark, Chris Olah, Ben Mann 공동 창립자, Jared Kaplan 최고 과학자, Claude Code를 개발 및 리드하는 Boris Cherny, Anthropic의 얼라인먼트 팀 리드인 Ethan Perez가 서명했습니다.
* OpenAI의 전 최고 미래학자 Josh Achiam와 defunct superalignment 팀의 공동 리더였던 Jan Leike도 서명했습니다.

시사점

이번 성명은 AI 산업 내에서 AI의 급속한 발전이 가져올 수 있는 잠재적 위험에 대한 심각한 우려를 표명하며, 이에 대한 국제적인 규제 및 거버넌스 마련의 필요성을 시사합니다.