A support chatbot needs to be designed for what it won't answer, not just what it will

개요

지원 챗봇의 설계는 답변 가능한 질문뿐만 아니라 답변해서는 안 되는 질문을 명확히 정의하는 데 중점을 두어야 합니다.

주요 내용

* 정보 카테고리 기반 분류: 특정 금지 단어 목록에 의존하는 대신, 소스 코드나 자격 증명과 같이 보호해야 하는 정보를 정보 카테고리로 정의하여 LLM이 질문의 의도를 파악하고 예상치 못한 표현 방식에도 대응할 수 있도록 합니다.
* 간결하고 사실적인 거부 응답: 보호된 카테고리에 속하는 요청에 대해 거부 이유를 자세히 설명하지 않고, 짧고 사실적으로 응답하여 사용자가 경계를 파악하고 우회할 방법을 찾는 단서를 제공하지 않도록 합니다.
* 시스템 프롬프트 내 정책 구현: 애플리케이션 코드의 필터 대신 LLM의 시스템 프롬프트에 정책을 직접 작성함으로써, 의도가 같더라도 표현 방식이 다른 요청에 대해 LLM의 언어 이해 능력을 활용하여 더 효과적으로 대응할 수 있습니다.

시사점

지원 챗봇의 효과성은 단순히 질문에 잘 답변하는 능력뿐만 아니라, 질문의 내용에 따라 답변하지 않아야 할 것을 정확히 인지하는 능력 또한 중요하며, 이는 챗봇의 설계에 있어 핵심적인 고려사항입니다.