OpenAI introduces ‘Ultrafast,’ a new mode that makes GPT-5.6 Sol work at 14x the speed

개요

OpenAI는 최신 고성능 모델인 GPT-5.6 Sol의 작업 속도를 획기적으로 높이는 새로운 모드 'Ultrafast'를 출시했습니다. 이 모드는 초당 최대 750개의 출력 토큰을 생성하며, 표준 처리 속도 대비 14배 빠른 성능을 제공합니다.

주요 내용

• Ultrafast 모드의 성능: GPT-5.6 Sol 모델을 위한 Ultrafast 모드는 초당 최대 750개의 출력 토큰을 처리하며, 이는 기존 대비 14배의 속도 향상을 의미합니다.
• 실시간 속도와 모델 크기의 관계 변화: 기존에는 실시간 속도를 얻기 위해 더 작거나 전문화된 모델을 선택해야 했으나, Ultrafast는 이러한 제약을 극복하고 더 많은 유용한 작업을 초당 수행할 수 있도록 합니다.
• 경쟁사의 유사 기능: Anthropic의 Claude와 같이 경쟁사들도 모델의 가속화된 버전을 출시했지만, OpenAI의 Ultrafast가 제공하는 속도 수준에는 미치지 못합니다.
• 기업 워크플로우 적용: Ultrafast 모드는 인시던트 대응, 고객 서비스 및 지원, 금융 시장 분석, 전자상거래 등 다양한 기업 워크플로우에 적용될 수 있습니다.
• 파트너십 및 출시 계획: Ultrafast 모드는 칩 제조업체 Cerebras와의 파트너십을 통해 구현되었으며, 현재 소규모 고객 그룹을 대상으로 미리 보기(preview) 형태로 제공 중입니다. OpenAI는 향후 용량 증가에 따라 접근성을 확대할 계획입니다.

시사점

Ultrafast 모드는 GPT-5.6 Sol과 같은 강력한 LLM의 실시간 처리 능력을 향상시켜, 다양한 기업 환경에서 AI의 실용적인 활용도를 크게 높일 것으로 기대됩니다.