IBM's new Granite 4.2 models ride the wave of interest in local LLMs

개요

IBM이 다운로드 및 자체 호스팅이 가능한 오픈 가중치 대규모 언어 모델(LLM)인 Granite 4.2 모델을 출시했습니다. 이 최신 릴리스는 3B, 8B, 30B 파라미터 변형으로 제공되며, 특히 추론 능력에 초점을 맞춘 것이 특징입니다.

주요 내용

• Granite 4.2 모델 출시: IBM은 3B, 8B, 30B 파라미터 세 가지 변형의 오픈 가중치 LLM인 Granite 4.2를 공개했습니다.
• 128,000 토큰 컨텍스트 창: 모든 Granite 4.2 모델은 기본적으로 128,000 토큰의 컨텍스트 창을 지원합니다.
• Agentic RL 적용: 8B 및 30B 변형은 에이전트 강화 학습(Agentic Reinforcement Learning) 블록을 거쳐 터미널 사용, 웹 검색, 외부 도구 활용 등 확장된 기능을 수행하도록 훈련되었습니다. 3B 모델도 도구를 지원하지만, 전문화된 훈련 수준은 다릅니다.
• 추론 능력 강화: Granite 4.2는 IBM의 Granite 언어 모델 패밀리 중 추론 기능에 중점을 둔 릴리스로, "체인 오브 쏘트(Chain-of-Thought)" 방식을 통해 기능적 추론을 수행하고 여러 단계에 걸쳐 중간 결과를 전달하는 능력을 향상시켰습니다.

시사점

Granite 4.2 모델의 출시는 로컬 LLM에 대한 관심 증가 추세에 부합하며, 개발자와 연구자가 자체 환경에서 모델을 실행하고 특정 작업을 수행하도록 맞춤화할 수 있는 유연성을 제공합니다.