The path to artificial superintelligence

개요

기술은 단일 AI 에이전트의 능력을 넘어, 상호 연결된 AI 에이전트들이 공동의 목표를 설정하고 추론하여 복잡한 문제를 해결하는 분산형 인공 초지능(artificial superintelligence)으로 나아가고 있습니다.

주요 내용

* 기존 AI의 한계: 현재 AI 에이전트들은 각자의 전문 영역에서는 뛰어나지만, 여러 에이전트가 복잡한 실제 문제를 해결하기 위해 목표를 공유하고 공동으로 추론하는 데는 한계가 있습니다. 이러한 한계는 아키텍처의 문제이며, 단순한 프롬프트 엔지니어링으로는 해결되지 않습니다.
* '인지의 인터넷(Internet of Cognition)' 개념: AI 에이전트 간의 "연결 조직(connective tissue)" 역할을 하는 시맨틱 레이어로, 공유된 의도, 맥락, 추론을 통해 에이전트들이 협력하고 함께 "생각"할 수 있도록 합니다.
* '에이전트의 인터넷(Internet of Agents)': '인지의 인터넷'을 지원하는 연결성 레이어로, 자율 에이전트들이 서로를 발견하고, 신원을 증명하며, 도메인 간 메시지를 교환할 수 있도록 합니다.
* 수평적 확장(Horizontal Scaling): 기존의 AI 모델 크기를 키우는 수직적 확장(vertical scaling)을 넘어, 다양한 시스템, 기업, 플랫폼에 걸쳐 에이전트들이 협력할 수 있도록 수평적으로 확장하는 것이 중요합니다.
* AGNTCY: Outshift에서 개발한 오픈 소스 연결성 레이어로, 에이전트들이 서로를 찾고, 신원을 증명하며, 개방형 표준 프로토콜을 통해 메시지를 교환할 수 있게 합니다.
* 협업을 위한 세 가지 핵심 기둥:
* 공유된 의도 (Shared intent): '인지 상태 프로토콜(cognition state protocols)'을 통해 에이전트들이 행동 전에 목표에 합의하고 협상하도록 합니다. Outshift의 오픈 소스 조정 레이어인 Mycelium을 통해 이를 지원합니다.
* 공유된 맥락 (Shared context): '인지 패브릭(cognition fabric)'은 공유된 기관 메모리 및 통신 메시로, 에이전트의 통찰력이 시간이 지남에 따라 축적되도록 하여 '조직적 건망증(organizational amnesia)' 문제를 해결합니다.
* 공유된 추론 (Shared reasoning): '인지 증폭기(cognitive amplifiers)'는 공유된 추론과 모델링을 가속화하며, '가드레일 기술(guardrail technologies, GATs)'은 보안, 비용, 규정 준수 프레임워크를 제공합니다.
* 보안 및 제어: 에이전트의 잠재적 위험(의도하지 않은 위임, 악의적인 프롬프트 주입, 과도한 권한 부여 등)을 방지하기 위해 환경별 제어가 필요합니다. Outshift의 '지속적인 에이전트 시맨틱 인증(Continuous Agent Semantic Authorization, CASA)'은 에이전트의 도구 요청이 원래 작업과 일치하는지 지속적으로 확인하여 보안을 강화합니다.
* 기업 적용 및 실험: 기업은 세네 개의 팀에 걸쳐 인간의 승인이 필요한 단일 기능 워크플로우에 대한 소규모 다중 에이전트 시스템 실험으로 시작하는 것이 좋습니다. 상호 운용 가능한 인프라 위에서 측정 가능한 기준점을 설정하고, 한 에이전트의 통찰력이 다른 에이전트를 어떻게 개선하는지 추적하는 것이 중요합니다.

시사점

AI 에이전트들이 공동의 목표를 설정하고, 맥락을 공유하며, 집단적으로 추론하는 '인지의 인터넷'은 개별 AI의 능력을 넘어선 분산형 인공 초지능으로 가는 길을 열어주며, 이를 위한 인프라 구축은 현재 진행형인 중요한 과제입니다.