Why LLM debugging fails on fragmented repository context

개요

LLM 디버깅이 파편화된 리포지토리 컨텍스트에서 실패하는 이유는 모델이 전체 리포지토리의 맥락을 파악하지 못하고 잘못된 정보를 바탕으로 코드를 생성하기 때문입니다.

주요 내용

• LLM 디버깅 시 일반적인 워크플로우는 여러 파일에서 수동으로 검색하고, 단편적인 코드 스니펫을 붙여넣으며, 주변 구현 경로, import, 의존성, 상태 흐름을 생략하여 모델이 누락된 컨텍스트를 추론하도록 하는 방식입니다.
• 이로 인해 모델은 실제 존재하지 않는 아키텍처를 추정하며 "환각 코드(hallucinated code)"를 생성하는데, 이는 실제로는 누락된 리포지토리 상태 때문입니다.
• grab은 이러한 문제를 해결하기 위해 개발된 터미널 네이티브 도구로, 반복적인 리포지토리 컨텍스트 추출을 지원합니다.
• grab의 워크플로우는 검색(search) → 추출(extract) → 누적(accumulate) → 재귀(recurse) 방식을 따릅니다.
• 단편적인 스니펫으로 계속 시작하는 대신, 컨텍스트는 추출 패스를 거치며 점진적으로 누적됩니다.
• 특히 함수 인덱싱은 정확한 추출 좌표(파일:시작-끝)를 제공하여 모델이 숨겨진 코드 경로를 추측하는 대신 추가 구현 컨텍스트를 명시적으로 요청할 수 있게 합니다.
• 누적된 컨텍스트는 클립보드/tmux 버퍼에 지속적으로 복사되어 반복적인 디버깅 속도를 향상시킵니다.
• grab은 현재 ripgrep, sed, 터미널 워크플로우, 클립보드/tmux 누적 등 간단한 기능에 집중하고 있습니다.
• 리포지토리 컨텍스트가 파편화되면 모델은 아키텍처 연속성을 잃고 구성 요소 간의 그럴듯하지만 꾸며낸 관계를 구축합니다.
• 이 문제는 단순 스니펫 검색 이상의 큰 문제로, 리포지토리 상태 획득, 점진적 컨텍스트 누적, 결정론적 추출, 시맨틱 리포지토리 인지(semantic repository cognition)로 접근해야 합니다.

시사점

LLM을 효과적으로 활용한 디버깅을 위해서는 파편화된 리포지토리 컨텍스트 문제를 해결하고, 점진적이고 결정론적인 컨텍스트 획득 메커니즘을 구축하는 것이 중요합니다.