Execution-Boundary Governance for AI Coding Agents

개요

AI 코딩 에이전트의 실행 경계 거버넌스는 AI 모델이 제안할 수 있는 내용에 대한 제약을 집중 조명하며, AI 산업에서 필요성이 증가할 것으로 예상되는 기술입니다.

주요 내용

* Execution-boundary governance (실행 경계 거버넌스): AI 에이전트 시스템이 모델의 능력에 초점을 맞추는 것과 달리, 결과에 구속되는 실제 행동을 취하기 전에 모델이 제안할 수 있는 내용을 제어하는 데 중점을 둡니다.
* Deterministic governance chain (결정론적 거버넌스 체인): Claude 또는 Codex와 같은 외부 코딩 에이전트의 의도(intent)를 받아, 사전 비행 거버넌스(preflight governance)를 거쳐, 재현 검증(replay verification)을 통해 위험한 명령을 거부하는 결정론적 체인을 시연합니다.
* Replay-verifiable receipts (재현 검증 가능한 영수증): 영수증이 재현 가능하며, 시스템이 원시 입력으로부터 독립적으로 거버넌스 결정을 다시 계산하고 의미론적 조작(semantic tampering)을 감지하는 것이 중요합니다.
* Advisory/simulation-only nature (자문/시뮬레이션 전용 특성): 공개된 데모는 쉘 실행, Git 푸시 권한, 배포, 네트워크 호출, 자격 증명 접근, 실제 실행 권한이 없으며, 전적으로 자문 및 시뮬레이션 용도로 설계되었습니다.
* Included features (포함된 기능): 결정론적 SHA-256 영수증 해싱, 재현 검증, 영수증 만료/신선도 검사, 명시적인 위협 모델 문서화, 명시적인 보안 제한 사항, 73개의 통과 테스트를 포함합니다.
* Demo guard vs. production sandbox (데모 가드 vs. 프로덕션 샌드박스): 명확히 문서화된 정규 표현식(regex) 거부 목록은 프로덕션 샌드박스가 아닌 데모용 가드이며, 실제 배포에는 프로세스 격리, 기능 범위 실행, 신뢰할 수 있는 클럭, 서명된 검증자 키, 강화된 런타임 제어가 필요합니다.

시사점

이 기술은 AI 자율성을 목표로 하기보다는, 거버넌스 결정을 재현 가능하고, 검사 가능하며, 현실이 변화하기 전에 독립적으로 검증 가능하도록 만드는 데 중점을 두어 AI 코딩 에이전트의 안전한 활용을 위한 기반을 마련합니다.