Pramaana Labs raises $27M seed round from Khosla Ventures to bring formal verification to AI

개요

Pramaana Labs는 Khosla Ventures 주도로 2,700만 달러의 시드 라운드 투자를 유치하여 AI의 신뢰성 문제를 해결하기 위한 공식 검증(formal verification) 기술 도입에 나선다.

주요 내용

• 엔터프라이즈 환경에서 AI 파일럿 프로그램을 실제 비즈니스 기능으로 전환하는 데 있어 신뢰성이 중요한 문제로 부상하고 있다.
• Pramaana Labs는 컴퓨터 과학의 신뢰성 높은 시스템과 AI의 예측 불가능성을 결합하여 이 문제를 해결하려 한다.
• 2,700만 달러의 시드 펀딩은 Khosla Ventures가 주도했으며 Accel, BoldCap, Nexus Venture Partners, Premji Invest, Unbound가 참여했다.
• Pramaana Labs는 오류 발생 시 비용이 크고 신뢰성이 매우 중요한 법률, 신약 개발, 세금 준비와 같은 민감한 산업 분야에 집중할 예정이다.
• 이러한 시스템에 AI를 도입하기 위해서는 현재보다 더 강력한 환각(hallucinations) 및 오류 방지 기능이 요구된다.
• Pramaana Labs는 규칙 준수가 필수적인 분야의 특성이 공식화에 적합하다고 보고 있으며, 세법과 같이 명문화된 규칙이 있다면 추론 과정이 결정론적으로 변할 수 있다고 설명한다.
• Pramaana Labs의 시스템은 일반적인 LLM을 기반으로 자연어 질문 처리와 복잡한 문제 해결의 유연성을 제공하지만, LLM의 작업 결과를 검증하는 결정론적 계층을 추가했다.
• LLM 엔진과 결정론적 검증의 결합은 일반적인 접근 방식이며, Pramaana Labs는 수학 증명 검증에 사용되는 오픈 소스 LEAN 프로그래밍 언어를 활용한 공식 검증 도구를 사용하는 독자적인 접근 방식을 취한다.
• 이 접근 방식은 프랑스의 CATALA 프로젝트와 같이 국가 세금 및 복지 시스템을 실행 가능한 코드로 공식화하는 사례에서 선례를 찾을 수 있다.
• 각 사용 사례에 대해 Pramaana Labs는 해당 분야 전문가의 감독 하에 자체적인 LEAN 스타일 공식 검증 시스템을 구축할 것이다.
• 세법 분야에서는 전 IRS 국장인 Danny Werfel과 협력하고 있으며, IIT Delhi, IIT Madras, UC Berkeley 교수진이 사이버 보안 및 신약 개발 시스템을 감독하고 있다.

시사점

Pramaana Labs의 기술은 AI의 신뢰성 부족으로 인해 도입이 지연되는 민감하고 규제가 엄격한 산업에서 AI 활용을 가속화할 잠재력을 지닌다.