In the Weights is your new AI-centric vanity search

개요

"In the Weights"는 AI 모델이 웹 검색과 같은 도구 없이 개인을 얼마나 잘 기억하는지를 측정하는 새로운 AI 중심 검색 웹사이트입니다.

주요 내용

* AI 모델의 정보 저장 방식 측정: "In the Weights"는 AI 모델의 학습 및 출력에 영향을 미치는 수치 매개변수인 "가중치(weights)"를 기반으로, AI가 웹 검색 없이 개인에 대한 정보를 얼마나 잘 기억하는지를 평가합니다.
* "존재의 중요성" 점수 부여: 웹사이트는 AI 모델이 개인을 얼마나 잘 인식하는지를 "존재의 중요성(strength score)"으로 측정하며, 높은 점수는 해당 인물이 초지능 AI 생성 과정에서 중요하게 여겨졌음을 의미한다고 주장합니다.
* 다양한 AI 모델 쿼리: Grok, Gemini, GPT, Claude, Llama 등 다양한 AI 모델에게 특정 인물에 대한 정보를 최대 10개 결과와 함께 설명 및 신뢰도를 요구하는 질문을 던집니다.
* 결과 취합 및 점수 산정: AI 모델로부터 받은 유사한 설명을 클러스터링하고 "강도 점수(strength score)"를 부여하여 순위를 매깁니다.
* 개인별 순위 및 모델별 응답 확인: 사용자는 자신의 "강도 점수"를 통해 다른 사람들과 비교할 수 있으며, 어떤 AI 모델이 어떤 답변을 반환했는지, 잠재적 할루시네이션(환각)은 없는지 확인할 수 있습니다.
* 개발 동기: OpenAI를 떠난 Thomas Dimson과 Joey Flynn이 Google 검색이 2026년에는 LLM으로 트래픽이 이동하면서 잘못된 목표가 될 것이라는 생각과, 많은 삶이 AI 내부의 부동 소수점 숫자에 인코딩되어 있다는 사실에 영감을 받아 개발했습니다.
* 사용자 반응 및 향후 계획: 웹사이트는 예상보다 뜨거운 반응을 얻고 있으며, Dimson은 서로 다른 모델 시리즈의 결과 차이, 특정 유형의 사람들에게 편향된 모델, 위키피디아 항목이 없는 사람들에 대해 더 깊이 조사할 계획입니다.

시사점

"In the Weights"는 AI 모델 내부에 개인 정보가 어떻게 인코딩되고 인식되는지에 대한 흥미로운 탐구를 제공하며, 기존 웹 검색의 한계를 넘어 AI 중심 정보 탐색의 새로운 가능성을 보여줍니다.