The Local LLM Uprising: Kiwi-chan’s 47% Success Rate and the Joy of Being Offline

개요

Kiwi-chan은 로컬 하드웨어에서 완전히 실행되는 자율적인 Minecraft 에이전트 개발 프로젝트로, 최근 Qwen 35B 모델로 전환하며 47%의 성공률을 기록했다.

주요 내용

• 로컬 LLM 기반 Minecraft 에이전트 개발: 클라우드 API, 지연 시간, 개인 정보 유출 없이 로컬 하드웨어에서 작동하는 완전 자율 Minecraft 에이전트 'Kiwi-chan'을 구축하고 있다.
• 성능 통계: 지난 4시간 동안 총 3,488개의 액션 중 1,640개를 성공하여 47.0%의 성공률을 기록했다. 이는 LLM 기반 에이전트가 사람의 도움 없이 Minecraft의 물리 법칙, 제작법, 경로 찾기 등을 추론하는 상황에서 진전으로 간주된다.
• Qwen 35B 모델로 전환: 복잡한 추론을 처리할 수 있으면서도 로컬 GPU 클러스터에서 실행 가능한 모델을 찾기 위해 Qwen 35B로 전환했다.
• Qwen 35B의 특징 및 대응: Qwen 35B는 JSON 대신 일반 텍스트를 출력하는 경향이 있어, 이를 해결하기 위해 모델의 내부 독백에서 실제 목표를 추출하는 "Mind Reading" 레이어를 구축했다.

시사점

Kiwi-chan 프로젝트는 로컬 LLM을 활용하여 복잡한 환경에서 자율 에이전트의 가능성을 탐색하고 있으며, 이는 클라우드 의존도를 줄이고 개인 정보 보호를 강화하는 측면에서 의미를 갖는다.