Humanising LLM Outputs Is Dumb

개요

LLM(Large Language Model)의 출력을 인간적으로 만들기 위해 프롬프트 단계를 수정하는 것은 비효율적인 접근 방식이며, 대신 최종 출력 단계에서 변환하는 것이 더 나은 방법이다.

주요 내용

* LLM 출력의 인간화 시도가 잘못된 추상화인 이유: "ADHD처럼 말해줘" 또는 ASD-STE100 Simplified Technical English와 같은 지시는 모델이 작업을 완료한 후에 적용되는 것이 아니라, 작업 자체의 일부가 된다. 이는 LLM이 정보를 지속적으로 압축하게 만들어 정보 손실을 야기한다.
* 정보 손실의 문제점: 압축 과정에서 중요한 정보가 누락될 수 있으며, 이러한 손실은 사용자가 인지하지 못할 수도 있다. ASD-STE는 명확성을 위해 설계되었지만, 에이전트는 인간 기술 작가와 다르며, 원시 데이터가 종종 가장 정보 밀도가 높은 표현일 수 있다.
* 에이전트 간 통신에서의 문제점: 하위 에이전트가 버그를 조사하고 요약하여 상위 에이전트에게 전달하면, 인간화된 요약이 다시 인간화되어 중요한 세부 정보(예: 테스트 통과/실패율, 오류 원인)가 희석될 수 있다.
* 인간화가 실패를 은폐하는 방식: 인간적인 문체는 에이전트의 실패 방식(모순되는 증거, 미해결 분기, 스택 트레이스 등)을 "몇 가지 고려 사항이 있습니다"와 같이 부드럽게 포장하여 잠재적인 문제점을 간과하게 만든다.
* 다른 시스템과의 비교: 데이터베이스, 컴파일러, API와 같은 다른 시스템은 데이터를 디스플레이 형식으로 저장하거나, IR을 읽기 쉽게 만들거나, 친근한 요약을 교환하지 않는다. 일반적으로 가장 높은 충실도의 표현을 유지하다가 인간이 소비하는 경계에서 변환한다.
* 접근성 및 개인화와의 구분: 이 주장은 접근성이나 개인화에 반대하는 것이 아니라, 이러한 요구 사항이 모델 자체의 작동 방식보다는 최종 출력 단계에서 처리되어야 한다고 주장한다.
* 권장되는 접근 방식: 에이전트는 상세한 상태, 스키마, diff, 정확한 오류, 신뢰도, 출처 등을 교환하고, 이러한 정보를 인간이 소비하는 최종 경계에서 압축하여 전달해야 한다.
* 바이럴 기술의 의미: "ADHD처럼 말해줘"와 같은 기술은 모델 자체의 작동 지시보다는 렌더링 계층에서 더 적합하며, 이는 보다 정확하고 기계 친화적인 상태를 기본 언어로 사용하는 에이전트의 미래를 시사한다.

시사점

LLM 에이전트는 기계가 이해할 수 있는 정확하고 정보 밀도가 높은 상태를 기본으로 작동하고, 인간과의 상호작용 시점에만 사용자의 요구에 맞게 변환하는 방식으로 설계되어야 한다.