Microsoft offers devs a better way to control AI agent behavior

개요

Microsoft는 AI 에이전트의 동작을 보다 일관되고 세밀하게 제어하기 위한 오픈 소스 표준인 Agent Control Specification(ACS)을 발표했습니다.

주요 내용

• AI 에이전트의 기능이 향상됨에 따라 다양한 환경에서 에이전트가 의도된 대로 작동하도록 보장하는 것이 중요해졌습니다.
• ACS는 개발자, 규정 준수 및 보안 팀이 에이전트가 따라야 할 정책을 정의할 수 있도록 합니다.
• 정책은 에이전트가 수행할 수 있는 작업, 수행해서는 안 되는 작업, 인간의 승인이 필요한 경우, 검토를 위해 기록해야 할 증거 등을 정의할 수 있습니다.
• 이러한 정책 파일은 에이전트가 작업을 수행하는 동안 여러 "가로채기 지점(interception points)"에서 확인되어 안전 가이드라인 내에 머무르도록 합니다.
• 기존의 시스템 프롬프트 지침, 애플리케이션 코드 내 사용자 지정 확인, 분류기 사용 등의 방식은 파편화되고 감사 및 재사용이 어려운 경우가 많았습니다.
• ACS는 이러한 제어를 공통 거버넌스 계층으로 통합하는 것을 목표로 합니다.
• 에이전트 워크플로의 여러 지점에서 에이전트가 가이드라인을 준수하는지 확인할 수 있습니다: 입력 받기 전, 도구 호출 전, 도구 결과 반환 후, 최종 응답 사용자 전송 전.
• 정책은 작업을 허용하거나, 차단하거나, 민감한 정보를 삭제하거나, 인간의 승인을 요청할 수 있습니다.
• 개발자는 입력 및 출력 분류기를 추가하여 정보를 분류하고, 결과를 예측하거나, 에이전트가 응답하는 방식을 결정할 수 있습니다.
• LLM을 "심판"으로 사용하여 정책을 평가하거나, 도구 호출, 도구 선택, 입력 정확성, 출력 사용 및 응답을 확인하는 로직을 추가할 수 있습니다.
• 정책 파일이 단일 파일로 작성될 수 있어 에이전트와 함께 번들링될 수 있으며, 보안 정책이 에이전트를 따라 다른 프레임워크와 환경에서 작동하도록 할 수 있습니다.
• ACS는 LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP 도구 등을 위한 플러그인이 포함된 SDK로 제공됩니다.

시사점

Agent Control Specification(ACS)은 AI 에이전트의 안전하고 예측 가능한 동작을 보장하기 위한 표준화된 접근 방식을 제공함으로써 개발자가 AI 에이전트를 기업 환경에 더 효과적으로 통합할 수 있도록 지원합니다.