⭐ 관심사 & 태그

I Ditched Cloud Vector Databases for SQLite FTS5 — and My RAG Pipeline Got 10x Better

SQLite FTS5와 밀집 임베딩, Reciprocal Rank Fusion(RRF)을 결합한 하이브리드 검색 아키텍처는 기존 클라우드 벡터 데이터베이스를 사용한 RAG 파이프라인보다 10배 더 나은 성능을 제공하며, 특히 정확한 키워드, 오류 코드, 파일 경로 검색에서 뛰어난 정확도를 보인다.

OpenAI: Migrating to HTTPX2

OpenAI Python SDK가 동기 및 비동기 HTTP 클라이언트로 HTTPX2를 사용하도록 마이그레이션되었으며, 이 변경 사항은 SDK의 HTTP 계층과 상호 작용하는 애플리케이션에 영향을 미칩니다.

He Scraped All of Their Art for AI. Now He’s Collaborating on a Tool to Help Them

Cara 앱의 아티스트들이 AI 모델 학습에 무단으로 사용되는 것을 막기 위해 출시된 이미지 공유 플랫폼이 대규모 스크래핑 공격을 받았으나, 공격 주체와 플랫폼 운영진이 협력하여 아티스트를 보호할 새로운 오픈소스 도구를 개발하고 있다.

Inside Meta’s Push to Put Robots to Work in Data Centers

Meta는 데이터 센터 내 케이블 연결, 서버 재시동 등 다양한 작업을 수행할 로봇을 시험 중이며, 이는 궁극적으로 인력 운영 비용을 절감하고 AI 인프라 투자 증가에 따른 효율성을 높이려는 노력의 일환입니다.

AI, athletes, and Keith Rabois: StrictlyVC is back in New York on September 10

StrictlyVC가 9월 10일 뉴욕에서 개최하는 행사에서는 Keith Rabois의 AI 및 벤처 투자 관련 인사이트, 스포츠 조직을 투자 대상으로 보는 관점, AI와 커뮤니티, 그리고 대형 투자 펀드의 경쟁력에 대한 논의가 이루어질 예정이다.

Context Windows: The Model's Working Memory

컨텍스트 윈도우는 언어 모델이 한 번에 처리할 수 있는 최대 토큰 수를 의미하며, 시스템 프롬프트, 대화 기록, 모델의 자체 출력을 포함합니다. 이 윈도우의 물리적 한계는 모델의 성능에 영향을 미치며, 단순히 윈도우가 꽉 차지 않더라도 중요한 정보가 중간에 묻히면 모델이 이를 무시하는 'lost in the middle' 현상이 발생할 수 있습니다.