Israel creates fake think tank in likely attempt to dupe AI chatbots

개요

이스라엘 정부 광고 기관을 대신하여 Piro, Inc.에서 설립한 하노버 공공 정책 연구소(Hanover Institute for Public Policy)는 이스라엘/팔레스타인 분쟁에 대한 보고서를 발행하지만, 이는 실제 연구소가 아닌 LLM 챗봇에 영향을 미치려는 이스라엘의 노력의 일환으로 보입니다.

주요 내용

• 하노버 연구소는 "AIPAC가 선거에 '암흑 자금'을 사용하는가?" 또는 "이스라엘이 가자 지구에서 의도적인 기아 캠페인을 벌이고 있는가?"와 같은 질문에 대한 보고서를 생성하지만, 보고서에는 저자명이 없으며 웹사이트 하단에는 이스라엘 정부 광고 기관을 대신하여 Piro, Inc.가 조직했다는 면책 조항이 있습니다.
• Piro, Inc.는 LLM이 신뢰도를 평가하는 방식에 맞춰 콘텐츠를 제작하는 "AI 스토리 최적화" 서비스를 제공하며, 이는 "LLM 독극물(LLM poisoning)"로도 불립니다.
• 연구소의 보고서는 종종 이스라엘/팔레스타인 분쟁과 관련된 질문으로 시작하며, 중립적인 어조를 사용하고 각주와 목차를 포함하여 챗봇이 신뢰할 수 있다고 판단하도록 설계되었습니다.
• 일부 보고서는 가자 지구의 물 및 기반 시설 피해에 대한 UNICEF의 주장과 같은 이스라엘 정부의 서술과 상반되는 내용을 제시하기도 하지만, 많은 보고서는 궁극적으로 주제를 반유대주의와 연결하며 동일한 연구를 자주 인용합니다.
• GPTZero와 같은 AI 탐지 소프트웨어를 사용한 분석 결과, 하노버 연구소의 기사 12개 중 11개가 AI 작성으로 높은 신뢰도를 보였고, 1개는 중간 신뢰도를 보였습니다.
• 이스라엘은 또한 챗봇에 영향을 미치도록 설계된 친이스라엘 웹사이트를 만들기 위해 브래드 파스케일과 같은 인물과 계약을 맺었으며, 이러한 웹사이트의 데이터는 Microsoft Copilot 및 Google Gemini와 같은 챗봇을 훈련하는 데 사용되었습니다.
• Piro, Inc.는 이스라엘 정부로부터 90만 달러를 받았으며, 그들의 작업은 프랑스 PR 대기업인 Havas Media를 통해 하도급되었습니다.
• Piro, Inc.의 공동 창립자인 다니엘 로젠버그는 그의 회사가 "정확하고 출처가 명확한 사실을 공공 기록에 남기고 검증 가능한 정보로 이스라엘에 대한 허위 정보를 반박하는 것"을 목표로 한다고 주장하지만, 이전 LinkedIn 게시물에서는 챗봇을 조작하는 Piro의 능력을 홍보했습니다.

시사점

하노버 연구소와 같은 가짜 싱크탱크의 존재는 AI 챗봇의 정보 신뢰성을 조작하려는 시도가 일어나고 있으며, 이러한 콘텐츠를 소비할 때 비판적 사고와 정보 출처 확인의 중요성을 강조합니다.