Elon Musk’s only AI expert witness at the OpenAI trial fears an AGI arms race

개요

OpenAI 소송에서 일론 머스크의 유일한 AI 전문가 증인인 스튜어트 러셀 교수는 인공일반지능(AGI) 개발 경쟁이 초래하는 위험성에 대해 증언했다.

주요 내용

* 일론 머스크의 변호인단은 OpenAI가 AI 안전을 위한 자선 단체로 시작했으나 영리 추구로 인해 본질을 잃었다고 주장하며, 이를 입증하기 위해 AI 기술에 대한 전문가 증언을 요청했다.
* AI 연구자인 스튜어트 러셀 교수는 AI 개발과 관련된 다양한 위험(사이버 보안 위협, AI의 의도와 인간의 의도 불일치, AGI 개발의 승자독식 현상)을 언급했으며, AGI 추구와 안전 사이의 긴장 관계를 지적했다.
* 러셀 교수는 2023년 3월 AI 연구 6개월 중단을 촉구하는 공개 서한에 서명했으며, 이는 AGI 경쟁에 대한 그의 우려를 보여준다.
* OpenAI 변호인단은 교차 조사에서 러셀 교수가 OpenAI의 기업 구조나 특정 안전 정책을 직접 평가하지 않았음을 강조했다.
* 기사에서는 OpenAI 창립자들이 AI의 위험성을 경고하면서도 AI 개발 속도를 높이고자 했으며, 이를 위해 필요한 막대한 컴퓨팅 자금을 조달하기 위해 영리 기업 설립 계획을 세웠다고 분석한다.
* 이러한 자금 조달 필요성이 창립팀의 분열을 야기하고 현재의 AI 경쟁 구도를 만들었으며, 이것이 현재 소송으로 이어졌다는 점을 지적한다.
* 국가 차원에서도 유사한 역학 관계가 나타나고 있으며, 데이터 센터 건설 중단 법안 추진 등은 AI에 대한 공포를 반영하고 있지만, 이러한 공포를 특정인의 이익을 위해 활용하려는 시도에 대한 비판도 제기된다.

시사점

AI 기술 개발 속도와 안전 확보 간의 근본적인 긴장 관계는 AGI 경쟁이 심화될수록 더욱 중요한 쟁점이 될 것이며, 기업의 영리 추구와 AI 안전이라는 상충되는 가치 사이의 균형점을 찾는 것이 중요한 과제이다.