Grok keeps sending gibberish responses to users

개요

xAI의 Grok 챗봇이 사용자들에게 무작위의 의미 없는 문자열 응답을 보내는 오류가 발생했습니다.

주요 내용

* Grok 챗봇 사용자들이 PDF 생성을 요청하거나 다른 질문을 했을 때, "match it without and your they and two for planets can practical and often cheese…" 와 같이 이해할 수 없는 문장들을 여러 단락에 걸쳐 생성하는 현상이 보고되었습니다.
* 일부 사용자는 강화 학습 연구 사이트 링크들의 나열을 받았다고 전했습니다.
* 이 문제는 Grok Lite 사용자들이 겪었으며, 수요일 오전부터 감지되었습니다.
* TechCrunch의 자체 테스트에서는 해당 문제를 재현할 수 없었으며, 소수의 사용자에게만 영향을 미친 것으로 추정됩니다.
* xAI는 이에 대한 공식적인 코멘트를 하지 않았습니다.
* Grok 챗봇의 Reddit 커뮤니티에는 해당 문제에 대한 불만 게시글이 쇄도했습니다.
* 새로운 채팅 세션을 시작하거나 페이지를 새로고침하면 정상적인 응답으로 복구되는 경우가 많았으나, 일부 사용자는 새로고침 후에도 지속적인 오류를 경험했습니다.
* 이 버그는 Grok.com에서의 직접적인 질의에만 국한된 것으로 보이며, X.com의 Grok 계정은 영향을 받지 않았습니다.
* Grok 계정은 X.com을 통해 "순수한 워드 샐러드(word salad)는 드물게 발생하는 일시적인 생성 오류"라고 설명하며, status.x.ai에서 모든 Grok 서비스가 정상 작동 중임을 알리고, 새로운 채팅을 시작하거나 다시 생성하면 해결될 것이라고 밝혔습니다.
* 이전 보도에 따르면 xAI는 최근 몇 달간 상당한 인력 이탈을 겪었으며, 설립 팀과 최소 50명의 연구원 및 엔지니어를 잃었습니다.
* xAI는 7월에 "Opus급 모델이지만 더 빠르고, 토큰 효율적이며, 비용이 저렴한" 최신 파운데이션 모델을 출시했습니다.

시사점

Grok 챗봇의 오류 발생은 LLM의 안정성 및 예측 불가능성에 대한 사용자들의 우려를 야기했으며, 챗봇의 신뢰도와 사용자 경험에 영향을 미칠 수 있습니다.