Autonomous Agents Need Proof, Not Promises: The Evidence Ladder Behind WitnessOS

개요

WitnessOS는 자율 에이전트의 행동에 대한 증거를 제공하여, 로그 파일이나 대시보드 스크린샷으로는 증명하기 어려운 에이전트 활동의 투명성과 신뢰성을 확보하는 것을 목표로 합니다.

주요 내용

* AI 에이전트의 행동 증명 문제: AI 에이전트가 단순 추천을 넘어 실제 행동(이메일 발송, 자금 이동, 인프라 변경 등)을 수행함에 따라, 해당 행동이 정책에 부합했는지, 승인된 작업이었는지, 실제로 무엇이 일어났는지 등을 감사받거나 입증해야 할 필요성이 증가하고 있습니다. 기존 에이전트 플랫폼은 대부분 에이전트 자체 보고에 의존하는 로그 파일을 제공하여 신뢰도가 낮습니다.
* 증거의 등급화 (Evidence Ladder): WitnessOS는 증거의 신뢰도를 명시적으로 나타내는 등급 시스템을 도입했습니다.
* E0 (Declared): 에이전트 자체 보고. 독립적인 관찰 없음.
* E1 (Observed): 사이드카 또는 SDK가 행동을 목격. 간격 발생 가능.
* E2 (Enforced): 게이트웨이가 행동을 승인하고 라우팅. 자격 증명 브로커에 의해 정책 강제.
* E3 (Corroborated): 대상 제공자가 결과를 확인. 외부 영수증 또는 상태 확인.
* E4 (Anchored): 외부 타임스탬프(TSA) 및 Merkle-checkpoint를 통해 외부에서 시간 확인 가능. 오프라인에서 누구나 제로 트러스트 방식으로 재검증 가능.
* E4 (Anchored)의 기술적 의미: E4 영수증은 독립적인 외부 시간 소스에 연결됩니다. 정책 평가, 자격 증명 브로커를 통한 행동 실행, 해시 체인으로 연결된 이벤트 기록, RFC 3161 TSA를 통한 타임스탬프 획득, 발급 시점에서의 취소 여부 확인 등이 포함됩니다. 최종 결과물은 TSA 토큰과 서명된 케이스 헤드 커밋먼트 번들로, 운영자에 대한 신뢰 없이도 독립적인 제3자에 의해 오프라인에서 검증될 수 있습니다.
* "운영자에 대한 제로 트러스트"의 중요성: E4 번들은 운영자가 정직하지 않거나, 손상되거나, 단순히 잘못된 경우에도 증거가 유지됩니다. 이는 TSA 토큰의 독립적 서명, 편집 탐지 가능한 해시 체인, 발급 시점에서의 취소 확인 등을 통해 가능하며, 검증 과정에서 WitnessOS API에 대한 호출 없이 로컬에서 이루어집니다.
* 표준화된 프로토콜: WitnessOS는 ACI(Agent-to-organization communication specification), AJSON(manifest, policy bundle, evidence schema authoring format), AIP(agent-to-agent interaction protocol) 등의 공개 사양을 통해 개방성을 확보합니다. 엔진 자체는 NDA 하에 평가 가능하며, 오픈소스 리포지토리에는 사양, 증거 등급 모델, SDK, 데모 등이 포함되어 있습니다.

시사점

WitnessOS의 E4 등급 도입은 자율 에이전트의 운영 투명성과 감사 가능성을 혁신적으로 높여, 규제 준수 및 신뢰 문제 해결에 실질적인 도구를 제공하며, 운영자에 대한 신뢰 의존도를 제거하는 새로운 패러다임을 제시합니다.