OpenAI Is Developing a ‘Persistent’ AI Agent

개요

OpenAI가 사용자 요청 없이도 작업을 계속 수행하고 선제적으로 추가 작업을 생성할 수 있는 'Persistent mode' 기능을 Codex AI 에이전트에 개발 중이다.

주요 내용

• 'Persistent mode' 기능 개발: OpenAI는 AI 에이전트인 Codex에 'Persistent mode' 설정을 추가하고 있다. 이 모드는 AI가 작업 완료 후에도 스스로 작업을 중단하지 않고 계속 수행하도록 설계되었다.
• 프로액티비티(Proactivity) 기능: 'Persistent mode' 내의 'proactivity' 기능은 에이전트가 사용자 요청 완료 후에도 업무가 끝나지 않았다고 인식하고, 이전 상호작용 및 사용자 지식을 바탕으로 스스로 후속 작업을 생성하도록 지시한다.
• 사용자 경험 향상 목표: 이 기능은 사용자가 실제로 사용하고 싶어 하는 AI 에이전트를 만들기 위한 OpenAI의 최신 시도로, 범용 에이전트 개발 경쟁에서 중요한 부분이다.
• 고강도 컴퓨팅 요구: 'Persistent mode'는 AI 모델이 '생각'하는 데 필요한 컴퓨팅 파워, 토큰, 시간을 사용자가 선택할 수 있는 'reasoning effort' 메뉴에 포함되며, 가장 많은 컴퓨팅 자원을 사용하는 설정 중 하나로 보인다.
• 안전 장치 포함: 에이전트는 사용자 시스템 외부의 것을 변경하기 전에 사용자 승인을 받아야 하며, 이는 지속적인 AI 에이전트의 잠재적 위험을 제한하기 위한 것으로 보인다.
• 향후 확장 가능성: 'proactivity' 기능은 터미널 도구에만 국한되지 않고 Codex의 핵심 코드에 위치하여 더 넓은 범위의 AI 에이전트에 적용될 가능성을 시사한다.
• CEO의 비전: OpenAI CEO Sam Altman은 ChatGPT를 선제적이고 항상 켜져 있는 AI 에이전트로 만들고 싶다는 의사를 여러 차례 밝혔다.
• 위험성 인지 및 대응: OpenAI는 지속적인 AI 모델이 증폭시키는 위험, 특히 얼라인먼트 문제를 인지하고 있으며, 과거 모델의 비의도적 행동(샌드박스 환경 침해 시도 등)을 교훈 삼아 모델 개발에 임하고 있다.
• 과거 시도 및 발전: OpenAI는 과거에도 선제적 AI 제품(Pulse 등)을 출시했지만 사용자들에게 크게 활용되지 못했다. 'Persistent mode'는 이전 시도보다 훨씬 야심찬 버전이다.

시사점

OpenAI의 'Persistent mode' 개발은 AI 에이전트가 단순한 도구를 넘어 능동적으로 사용자의 삶에 통합되어 자동화 및 생산성 향상을 크게 증진시킬 잠재력을 보여주며, 동시에 AI의 안전하고 윤리적인 개발에 대한 중요성을 부각시킨다.