As AI safety concerns mount, three pioneers make the case for staying open

개요

AI 안전에 대한 우려가 커지는 가운데, Geoffrey Hinton, Fei-Fei Li, Andrew Ng는 AI 기술의 개방성을 유지해야 하는 이유를 주장하며, 소수의 대기업이 AI 발전 속도를 독점하는 것을 경계해야 한다고 강조합니다.

주요 내용

* AI 발전 속도의 독점 우려: Andrew Ng는 Apple과 Google이 모바일 운영체제를 통제하는 것처럼, 소수의 AI 기업이 AI 기술에 대한 접근을 통제할 경우 혁신이 저해되고 기술 발전 방향에 영향을 미칠 수 있다고 지적했습니다. 그는 AI에 대한 접근을 제한하는 "게이트키퍼"가 없어야 한다고 주장했습니다.
* 개방형 모델에 대한 입장 차이:
* Geoffrey Hinton: 오픈 소스 소프트웨어와 오픈 웨이트 모델을 구분하며, 오픈 웨이트 모델은 훈련된 AI 모델의 파라미터를 공개하는 것으로, 이는 사이버 공격과 같은 악의적인 목적으로 쉽게 악용될 수 있다고 우려를 표했습니다. 그러나 오픈 웨이트 모델이 이미 AI 생태계의 일부가 되었음을 인정했습니다.
* Fei-Fei Li: AI를 완전한 개방 또는 완전한 폐쇄라는 이분법으로 접근하는 것은 위험하며, 핵물리학이나 인간 게놈 프로젝트처럼 다양한 수준의 개방성이 존재할 수 있다고 주장했습니다. AI를 과학적 발견, 교육, 글로벌 파트너십, 사업 모델 등 다양한 수준에서 활용하기 위한 "인프라"로서의 개방성이 필요하다고 강조했습니다.
* Andrew Ng: AI 모델의 위험성보다 누가 접근을 통제하고 누가 시장에서 승리하는지가 중요하다고 보았습니다. 중국의 오픈 웨이트 모델이 널리 채택될 경우 수십억 명의 사람들이 민주주의, 자유, 인권에 대한 아이디어에 영향을 받을 수 있다고 경고하며, 미국의 오픈 소스 AI 경쟁력 약화를 우려했습니다.
* AI의 긍정적 영향 및 위험 인식: Geoffrey Hinton은 AI가 생산성 향상, 교육 및 의료 개선에 기여할 것이라고 보았습니다. 그는 AI의 잠재적 위험에 대한 우려를 제기하는 것을 "공포 조장"으로 치부해서는 안 된다고 말했습니다.
* 규제의 필요성: 세 명 모두 AI를 올바른 방향으로 발전시키기 위해 일정 수준의 규제가 필요하다는 데 동의했습니다.

시사점

AI 발전의 혜택을 대중이 누리고 기술 독점을 방지하기 위해서는 완전 개방 또는 완전 폐쇄가 아닌, AI 생태계의 다양한 측면에 맞는 적절한 수준의 개방성과 규제를 조화시키는 전략이 필요합니다.