Access to frontier AI will soon be limited by economic and security constraints

개요

프론티어 AI 모델에 대한 접근성은 곧 경제적 및 보안적 제약으로 인해 제한될 것이며, 이는 AI의 미래를 바라보는 일반적인 관점과 상반된다.

주요 내용

* 보안 고려사항:
* 새로운 고성능 AI 모델은 사이버 공격이나 생물학 무기 설계 등 위험한 활동에 사용될 수 있어, 초기에는 취약점 보완을 위해 방어자에게 제한적으로 공개될 수 있다.
* 정부는 AI 개발자가 위험한 능력이 범죄자나 적에게 넘어가는 것을 신뢰하지 않거나, 새로운 취약점을 먼저 파악하여 활용하기 위해 제한적 접근을 일반적인 규칙으로 만들려는 움직임을 보일 수 있다.
* 모델 도난, 스파이 활동, 증류(distillation)의 위험은 개발자들이 모델 호스팅 및 보안에 신중하게 만들고, 특히 API 토큰에 대한 무제한 접근에 기반한 증류는 장기적으로 수익 창출에 어려움을 야기하여 규제 강화로 이어질 수 있다.
* 경제적 제약 (컴퓨팅 자원):
* 프론티어 AI 모델에 대한 접근 제공은 막대한 컴퓨팅 자원을 소모하며, 추가 사용자에게 서비스를 제공하는 한계 비용이 높다.
* AI 시스템이 인간 노동력의 결과물에 필적하게 되면, 필요한 토큰의 양은 엄청날 것이며, 효율성 향상 곡선만으로는 토큰 비용 압박을 해소하기 어렵다.
* 프론티어 AI의 개발 비용은 증가하는 추세이며, 시장 지배력 효과가 약화되어 '관심 있는 구매자'로서의 역할이 접근 확보에 큰 영향을 미치지 못할 수 있다.
* 미국 정부의 개입:
* 미국 정부는 자국의 국익과 국가 안보를 위해 제한적 접근 방식을 선호하며, 향후 미국 생산 AI 토큰에 대한 미국 기업의 우선 구매권을 부여하는 등의 정책을 시행할 수 있다.
* 정부는 정치적 및 전략적 이해관계를 위해 접근 제어를 활용할 수 있으며, 이는 국가 안보 목표 달성을 위해 AI 능력의 공평한 확산을 제한하는 방식으로 나타날 수 있다.
* 미국 정부는 프론티어 모델에 대한 사전 배포 권한을 사용하여 더 광범위한 이익을 확보하려 할 수 있으며, 이는 정부 간 전략적 이해관계의 차이로 인해 프론티어 AI 접근이 근본적으로 조건적이게 만든다.
* 향후 AI 접근 시나리오:
* AI 모델은 먼저 미국 국가 안보 기관에 도달하여 보안 강화를 위해 활용된 후, 미국 기업 및 소수의 신뢰할 수 있는 방어자에게 우선적으로 배포될 가능성이 높다.
* 일반 소비자, 신생 기업, 개발도상국 등은 제한적인 제품 계층을 통해서만 접근하거나, 충분한 토큰을 확보하지 못해 활용에 제약을 받을 수 있다.
* 접근이 제한되면서 세계는 프론티어 AI 보유국과 비보유국으로 나뉘게 되어 경제적, 안보적 격차가 심화될 수 있다.
* 해결 방안:
* 생물학적 위협 등에 대한 회복력을 강화하여 보안 동기 부여된 제약의 필요성을 줄인다.
* 증류(distillation) 문제에 대한 기술적 해결책을 신속히 배포하고, 사용자 측에서 사이버 보안, 특히 데이터센터 보안을 강화한다.
* AI 시스템 호스팅을 위한 대규모 데이터센터 구축을 가속화하여 컴퓨팅 자원 부족 문제를 완화한다.
* 미국 동맹국은 데이터센터 구축에 유리한 조건을 제공하고 프론티어 접근 보장을 확보하는 방식으로 협력한다.
* 중간 국가들은 최악의 시나리오에 대비하여 프론티어 AI 능력 확보를 위한 비상 계획을 마련한다.

시사점

프론티어 AI에 대한 접근이 점차 제한됨에 따라, AI 기술의 혜택이 전 세계적으로 공평하게 분배되지 못하고 경제적, 지정학적 격차가 심화될 위험이 존재하므로, 이를 완화하기 위한 인프라 구축 및 국제적 협력이 시급히 요구된다.