ZeroDrift raises $10M to protect AI models from themselves

개요

ZeroDrift는 AI 모델의 규정 준수 문제를 해결하기 위해 1,000만 달러의 시드 펀딩을 유치한 AI 컴플라이언스 서비스로, AI 모델 자체의 오류로부터 보호하는 솔루션을 제공한다.

주요 내용

• 기업들은 AI 시스템의 규정 준수 문제를 해결하기 위해 두 가지 모델을 사용하는 접근 방식을 취하고 있으며, ZeroDrift는 이러한 시스템에서 두 번째 역할을 수행한다.
• ZeroDrift는 AI 모델과 최종 사용자 사이에 위치하여 규정 준수 문제를 일으킬 수 있는 메시지를 탐지하고 대체하는 역할을 한다.
• 이 시스템은 SOC 2 또는 GDPR과 같은 알려진 규정 준수 표준을 결정론적으로 적용하는 기존 프로그램에 의해 트리거되며, LLM은 메시지가 플래그 지정된 후에만 규정을 준수하는 버전으로 메시지를 재작성하는 데 사용된다.
• ZeroDrift는 기존 LLM보다 낮은 지연 시간과 더 높은 신뢰성으로 시스템을 실행할 수 있다고 주장하며, 이는 OpenAI 및 Anthropic과 같은 대규모 AI 연구소의 시스템에 비해 주요 이점이라고 강조한다.
• 주요 활용 사례는 소비자 앞에서 이미 배포되어 잘못된 답변으로 인해 심각한 결과가 초래될 수 있는 AI 챗봇이지만, 인간이 절대 보지 않는 자동화된 시스템 내에서만 생성되는 AI 생성 메시지로 시장을 확장할 가능성도 있다.
• ZeroDrift는 3주 만에 3배 초과 청약된 1,000만 달러의 시드 펀딩을 a16z Speedrun, Reign Ventures, Pitchdrive, U&I Ventures 등으로부터 성공적으로 유치했다.

시사점

ZeroDrift의 솔루션은 AI 모델의 확산에 따라 중요성이 커지고 있는 AI 규정 준수 시장에 대한 높은 수요를 보여주며, AI 시스템의 신뢰성과 안전성을 향상시킬 수 있는 잠재력을 가지고 있다.