How to build a secure, cross-protocol Agentic AI cluster in 15 minutes (without touching Istio).

개요

Hopr.co에서 개발한 Korvette-S Workload Security Proxy (WoSP)와 Lane7 blueprints는 15분 안에 보안이 강화된 다중 프로토콜 Agentic AI 클러스터를 구축하는 방법을 제시합니다. 전통적인 서비스 메시와 mTLS의 한계를 극복하고, Automated Moving Target Defense (AMTD)를 통해 트랜잭션 수준의 제로 트러스트 보안을 제공하여 개발 속도와 운영 간편성을 높이는 데 중점을 둡니다.

주요 내용

• Agentic AI의 동향 및 보안 과제: ReAct 루프는 LLM 쿼리, 도구 호출, 결과 평가 등의 반복으로 인해 매우 많은 API 트래픽을 발생시키며, 이는 예측 불가능하고 지연 시간에 민감한 특성을 가집니다. 기존의 서비스 메시와 mTLS는 이러한 환경에서 과도한 오버헤드, 관리 복잡성, 가시성 부족, 지연 시간 증가 등의 문제를 야기합니다.
• 보안 취약점: Excessive Agency 및 Prompt Injection: LLM 기반 에이전트는 'Excessive Agency'와 'Insecure Output Handling'과 같은 취약점에 노출될 수 있습니다. 공격자가 프롬프트 인젝션을 성공시키면, 내부 API 및 RAG 데이터에 접근하거나 파괴적인 작업을 수행할 수 있으며, 기존의 L3-L5 방어 체계는 이러한 위협에 무방비입니다.
• Hopr의 Layer 7 보안 접근 방식: Korvette-S WoSP는 정적 인증서 대신 Automated Moving Target Defense (AMTD)를 활용합니다. MAID™ (Machine Alias IDentity)를 통해 트랜잭션마다 동적으로 변하는 암호화된 신원을 부여하고, SEE™ (Synchronous Ephemeral Encryption) 프로토콜로 즉시 키를 교체하여 측면 이동을 방지합니다. 이는 Envoy 사이드카와 WebAssembly (Wasm) 필터를 통해 애플리케이션 코드 변경 없이 구현됩니다.
• Lane7 Agentic AI Blueprint의 6-Pod 아키텍처: ai-gateway, ai-orchestrator, llm-gateway, tool-executor, nlp-processor, ai-results-sink로 구성된 파이프라인 구조를 통해 ReAct 루프를 처리합니다.
• 이종 프로토콜의 원활한 통합: 경계에는 HTTP를 사용하고, LLM 추론 및 도구 호출과 같이 실시간 스트리밍이 필요한 부분에는 WebSocket을 활용하여 효율성을 높입니다. Envoy/Wasm 필터는 L4 TCP 터널링을 통해 프로토콜 투명성을 확보하고, 애플리케이션이 네이티브 프로토콜로 통신할 수 있도록 지원합니다.
• 네트워크 레벨 프롬프트 인젝션 방어: AMTD는 암호화된 신원을 빈번하게 교체하여 공격자가 가로챈 자격 증명으로 인한 악의적인 요청을 즉시 차단함으로써, 네트워크 가로채기를 통한 프롬프트 인젝션 공격을 효과적으로 방어합니다.
• 개발자 속도 및 운영 간편성: Lane7 blueprints는 PKI 관리, 복잡한 Istio 설정 등의 오버헤드를 제거하여 개발자가 애플리케이션 로직에 집중할 수 있도록 합니다. Docker 이미지 빌드 및 deploy.sh 스크립트 실행을 통해 15분 내에 전체 아키텍처를 배포할 수 있습니다.

시사점

이 아키텍처는 Agentic AI 시스템의 보안을 강화하면서도 개발 속도와 운영 효율성을 극대화하는 방안을 제시합니다. 특히, 최신 AI 워크로드의 동적인 특성과 보안 요구 사항을 충족시키기 위한 실질적인 솔루션을 제공하며, 플랫폼 엔지니어링 팀이 복잡한 보안 설정을 최소화하면서도 고성능 AI 애플리케이션을 신속하게 배포하고 관리할 수 있도록 지원합니다.