RSI is the new AGI — and it’s just as hard to pin down

개요

Recursive self-improvement (RSI)는 AI 시스템이 스스로를 지속적으로 업그레이드하는 개념으로, AGI처럼 AI의 급격한 발전을 의미하는 새로운 화두로 떠오르고 있습니다.

주요 내용

* RSI는 AI 시스템이 자체적인 업그레이드 주기를 인간보다 더 잘 관리하게 되어, 컴퓨팅 파워에 의해서만 제한되는 폐쇄 루프를 형성하고 인간의 개입이 불필요해지거나 오히려 방해가 될 수 있는 상황을 의미합니다.
* Richard Socher는 "Recursive Superintelligence"를 설립하여 아이디어 구상, 구현, 연구 아이디어 검증 전 과정의 자동화를 통한 RSI 구축을 목표로 하고 있습니다.
* Alex Karpathy는 에이전트 군집을 활용하여 LLM에 단순한 작업을 학습시키는 "Auto-Research" 프로젝트를 진행하며 RSI에 대한 기대를 높이고 있습니다. 현재는 GPT-2 스케일 모델에 대한 미미한 개선에 집중하고 있습니다.
* Adaption의 "AutoScientist"는 프론티어 모델 학습 자동화를 목표로 하며, Karpathy의 시스템과 유사하게 에이전트가 점진적인 개선을 학습하지만, 최종 목표는 완전한 프론티어 모델 학습을 용이하게 하는 것입니다.
* Doris Xin의 자체 훈련된 머신러닝 에이전트는 Kaggle 대회에서 많은 메달을 획득하며 인간 훈련 에이전트를 능가했으며, RSI의 주요 과제는 신뢰성이라고 언급되었습니다.
* Google CEO Sundar Pichai는 RSI에 대해 언급하며 현재로서는 아직 도달하지 못했음을 시사했습니다.
* Anthropic의 Claude Code는 팀 코드 작성의 100%를 담당하는 등 자체 개발 능력을 보여주고 있으며, Mythos의 특정 버전은 L4 엔지니어를 대체할 수 있을 것으로 기대되나, 자기 관리, 조직 우선순위 이해 등 자기 주도성과 관련된 약점이 지적되었습니다.
* RSI에 대한 전문가들의 예상은 크게 엇갈리며, 일부는 즉각적인 "초지능" 폭발을, 다른 일부는 느린 발전과 결국의 정체기를 예측합니다.
* AI 도구를 사용하여 AI 연구를 수행하는 것만으로는 RSI로 간주되지 않으며, 인간의 개입이 전혀 필요 없는 상태를 RSI의 고전적인 정의로 볼 수 있습니다.
* AI 연구 주도권 확보의 단계는 "충분성(adequacy)", "동등성(parity)", "우월성(supremacy)"으로 구분될 수 있으며, AI는 이미 어느 정도의 작업을 자체적으로 생성하는 "충분성" 기준에 근접하거나 통과했을 가능성이 있습니다.
* RSI 달성 과정에서 점진적인 개선을 넘어 연구 전반의 과정을 자동화하는 데에는 공학적, 정렬(alignment) 측면에서 상당한 도전 과제가 존재합니다.

시사점

RSI는 AI 연구 개발의 새로운 방향성을 제시하지만, 그 정의와 실현 가능성에 대한 논의가 분분하며, 기술적, 개념적 장벽을 극복해야 하는 과제를 안고 있어 예측이 어렵습니다.