Private Claude Chats Exposed in Google and Bing Search Results

개요

Anthropic의 Claude AI 챗봇에서 사용자가 공유한 대화 내용이 Google 및 Bing 검색 결과에 노출되는 문제가 발생했다.

주요 내용

• 일부 사용자가 공유한 Claude 챗봇의 대화 내용이 웹 검색을 통해 쉽게 발견되었다.
• 노출된 대화에는 정치적 조언, 직업 윤리 위반 자진 신고 여부, 성인용 롤플레잉 등에 대한 내용이 포함되어 있었다.
• Claude는 사용자가 특정 챗봇 스레드에 대한 공개 URL을 생성하여 대화를 다른 사람과 공유할 수 있는 기능을 제공한다.
• 이러한 URL이 검색 엔진에 의해 인덱싱된 이유는 웹사이트, 검색 엔진의 기본 기능 및 생성형 AI의 결합으로 인한 결과이다.
• Anthropic은 robots.txt 파일을 사용하여 Google 및 Bing과 같은 검색 엔진의 웹 크롤러에게 공유된 대화는 인덱싱하지 않도록 지시했지만, 일부 공유된 페이지에는 "noindex" 태그가 누락되었다.
• Google은 robots.txt 지침을 무시하고 해당 페이지가 외부에서 링크되어 있고 페이지 소유자가 "noindex" HTML 태그 또는 "x-robots-tag"를 포함하지 않은 경우 색인을 생성할 수 있다고 명시했다.
• WIRED가 검토한 노출된 Claude 채팅 페이지 샘플에는 Bing과 Google이 페이지 색인 생성 여부를 결정할 때 고려하는 "noindex" 태그가 포함되어 있지 않았다.
• Google 대변인은 해당 페이지가 여러 검색 엔진에 걸쳐 인덱싱되었으며, Anthropic의 책임이라고 밝혔다.
• Anthropic은 작년 9월에도 유사한 문제로 논란이 있었으며, 당시 robots.txt를 사용한다고 밝혔으나 Forbes는 이 방법이 검색 엔진의 인덱싱을 항상 막지는 못한다고 지적했다.

시사점

AI 챗봇에서 사용자가 공유하는 개인 정보의 보안 및 개인 정보 보호에 대한 중요성이 부각되며, 서비스 제공업체는 robots.txt 외에 추가적인 메타 태그 설정을 통해 검색 엔진에서의 부적절한 노출을 방지해야 한다.