What happens when AI starts building itself?

개요

Recursive Superintelligence는 6억 5천만 달러의 투자를 유치하며 설립된 AI 스타트업으로, 인간의 개입 없이 스스로의 약점을 파악하고 개선하는 재귀적 자기 개선 AI 모델 개발을 목표로 합니다.

주요 내용

* 핵심 목표: 인간의 개입 없이 스스로 연구 아이디어를 구상, 구현, 검증하며 재귀적으로 자신을 개선하는 초지능(Superintelligence)을 구축하는 것을 목표로 합니다.
* 차별화된 접근 방식: '개방성(Open-endedness)' 개념을 활용하여 기존의 AI 발전 방식과는 다른 방식으로 재귀적 자기 개선을 달성하려 합니다. 이는 생물학적 진화나 LLM의 '레인보우 테이밍(Rainbow Teaming)'과 유사하게, AI가 스스로를 테스트하고 다양한 공격(또는 취약점)에 대응하며 발전하는 방식입니다.
* 재귀적 자기 개선의 정의: 단순히 AI를 이용해 다른 것을 개선하는 것이 아니라, AI 자체가 자신의 연구 아이디어, 더 나아가 모든 종류의 연구 아이디어를 자동으로 개선하는 과정을 의미합니다.
* '개방성'의 기술적 의미: 특정 개념, 세계, 에이전트 등 어떤 것이든 주어졌을 때 이를 창조하고 상호작용할 수 있는 능력을 뜻합니다. 이는 마치 생물학적 진화가 수십억 년 동안 끊임없이 새로운 것을 만들어내는 과정과 유사합니다.
* '레인보우 테이밍': 사이버 보안의 '레드 테이밍'처럼 AI의 취약점을 찾기 위해, 인간이 아닌 AI를 활용하여 다른 AI에게 다양한 방식으로 나쁜 결과(Bad things)를 유도하도록 시도하고, 이를 통해 AI를 더욱 안전하게 만드는 방법론입니다.
* 제품 출시 계획: 주요 AI 연구소들과는 다른 접근 방식을 취하며, 수년이 아닌 수분기 내에 첫 제품을 출시할 가능성을 언급했습니다.
* 미래 컴퓨팅의 역할: 재귀적 자기 개선 AI가 완성되면, 속도 향상을 위한 컴퓨팅 자원이 유일하게 중요한 자원이 될 것이며, 인류가 어떤 문제 해결에 얼마나 많은 컴퓨팅 자원을 사용할 것인지가 중요한 질문이 될 것이라고 전망합니다.

시사점

Recursive Superintelligence의 재귀적 자기 개선 AI 개발은 AI 연구의 궁극적인 목표 중 하나를 향한 중요한 진전이며, 향후 AI 발전과 컴퓨팅 자원 배분에 대한 근본적인 질문을 던집니다.