AI handles incidents, engineers lose touch with their systems

개요

AI 기반 사고 대응 도구의 발전은 일상적인 사고 해결을 자동화하여 엔지니어의 시스템과의 연결성을 약화시키고, 복잡하거나 전례 없는 사고 발생 시 대응 능력을 저해할 위험이 있습니다.

주요 내용

* AI는 현재 경보 검사, 가설 수립, 원격 측정 쿼리, 최신 배포 상관관계 분석, 심지어 수정 구현까지 사고 대응의 다양한 측면을 자동화할 수 있습니다.
* 이러한 자동화는 엔지니어의 일상적인 사고 대응 연습 기회를 줄여, 시스템의 작동 방식 및 실패 패턴에 대한 직관력 발달을 저해합니다.
* 자동화가 해결할 수 없는 복잡하거나 새로운 유형의 사고 발생 시, 덜 숙련된 엔지니어들이 문제를 해결해야 하는 상황이 발생할 수 있습니다.
* 항공 산업에서처럼 자동화가 주된 비행을 담당하지만, 조종사는 엔진 고장, 기기 오작동 등 자동화가 관리할 수 없는 드문 상황에 대비해야 합니다.
* 실제 사고 발생 시의 대처 능력을 향상시키기 위해, 현실적인 사고 시뮬레이션(예: Uptime Labs와 Rootly의 협력)을 통해 엔지니어들은 observability 도구를 사용하고 LLM 기반 이해 관계자와 소통하며 사고 대응 능력을 연습할 수 있습니다.
* AI의 설명을 듣거나 관찰하는 것은 사고 대응 기술을 실제로 배우는 것(예: 테니스 코트에서 배우는 것)과는 다르며, 실질적인 연습이 중요합니다.
* AI가 많은 업무를 수행함에 따라, 엔지니어링 팀은 시스템의 실제 작동 방식과 엔지니어들의 시스템 이해도 사이의 격차인 "이해력 부채(comprehension debt)"가 증가할 위험에 처하게 됩니다.
* 엔지니어들은 시스템을 지속적으로 관리하고, 익숙하지 않은 실패를 처리하며, 압박감 속에서 작업하고, 고심각도 사고(SEV0) 시 필요한 협업 및 소통을 연습해야 합니다.

시사점

AI 기반 사고 대응 도구의 효율성 증가는 사고 해결 평균 시간(MTTR)을 단축시킬 수 있지만, 인간의 시스템에 대한 직관과 대응 능력을 유지하기 위해서는 자동화의 부족한 부분을 보완하는 실습 중심의 교육과 훈련이 더욱 중요해집니다.