Thinking Machines amps up its bet against one-size-fits-all AI with its first open model, Inkling

개요

Thinking Machines Lab이 첫 번째 오픈 모델인 Inkling을 출시했으며, 이는 조직이 자체적으로 AI를 맞춤 설정할 수 있다는 점을 내세워 기존의 일률적인 AI 모델에 대한 베팅을 강화합니다.

주요 내용

* Inkling 모델의 특징: Inkling은 9750억 개의 파라미터를 가진 Mixture-of-Experts(MoE) 시스템으로, 특정 작업에는 약 410억 개의 파라미터만 사용합니다. 45조 개의 텍스트, 이미지, 오디오, 비디오 토큰으로 학습되었으며 텍스트, 코드, 스타일화된 아티팩트, 구조화된 데이터를 생성할 수 있습니다.
* 오픈 웨이트 모델: OpenAI, Anthropic, Google의 플래그십 모델과 달리 Inkling은 오픈 웨이트(open-weight) 모델로, 외부 개발자 및 기업이 다운로드하여 직접 수정할 수 있습니다.
* 맞춤화 및 적응성 강조: Thinking Machines Lab의 핵심 전략은 조직이 자체적으로 적응시킬 수 있는 AI가 현재 가장 큰 AI 연구소들이 판매하는 일률적인 모델보다 우수할 것이라는 가정에 기반합니다. Inkling은 불확실성을 표시하는 등 보정된 답변을 제공하며, 사용자가 속도와 성능 간의 균형을 조절할 수 있는 "사고 노력(thinking effort)"을 조절할 수 있도록 합니다.
* Tinker 플랫폼과의 연동: Inkling은 완성된 제품보다는 조직이 Tinker라는 자체 모델 사용자 지정 플랫폼을 통해 미세 조정(fine-tune)할 수 있는 시작점으로 마케팅되고 있습니다.
* 비교 우위: Inkling은 코딩 성능 면에서 Nvidia의 Nemotron 3 Ultra보다 1/3의 토큰만 사용하면서도 동일한 성능을 달성했다고 주장합니다.
* 독점 모델에 대한 비판: Thinking Machines Lab은 단일 기업에 의해 중앙에서 학습되고 고정된 AI는 조직이 자체적으로 형성하는 AI보다 성능이 떨어진다고 주장합니다. Microsoft CEO Satya Nadella 역시 기업이 독점 AI 모델을 사용하면 구독 비용과 비즈니스 지식 유출이라는 두 가지 비용을 지불하게 된다고 경고했습니다.
* Bridgewater Associates 사례: Thinking Machines Lab의 접근 방식은 Bridgewater Associates와의 프로젝트에서 입증되었습니다. 이 프로젝트에서 기존 오픈 소스 모델을 Bridgewater의 금융 전문 지식으로 추가 학습시킨 결과, 최고의 독점 AI 모델을 능가하는 금융 추론 테스트 점수를 기록했으며, 운영 비용은 약 1/14 수준에 불과했습니다.
* 학습 데이터: Inkling은 초기 사후 학습 데이터 생성에 Moonshot AI의 Kimi K2.5와 같은 다른 오픈 웨이트 모델을 사용했습니다.
* 비용 및 수익 모델: Thinking Machines Lab은 Nvidia의 컴퓨팅 인프라를 활용하여 Inkling을 학습시켰으나, 비용 회수 및 수익 창출 계획에 대해서는 구체적으로 밝히지 않았습니다. 수익은 모델 자체보다는 Tinker 플랫폼을 통한 교육, 미세 조정, 호스팅 생태계 수수료에서 발생할 것으로 예상됩니다.

시사점

Inkling의 출시는 AI 모델 개발 및 배포 방식에 대한 새로운 가능성을 제시하며, 특히 조직의 특정 요구에 맞춰 AI를 맞춤 설정하고 활용하는 방향으로 산업이 나아갈 수 있음을 시사합니다.

원문 읽기 →
원문을 불러오는 중...

댓글

GitHub Discussions