AI made generation cheap. It did not make judgment cheap.

개요

AI는 콘텐츠 생성 비용을 낮췄지만, 결과물의 적절성을 판단하는 데 드는 비용은 오히려 증가시켰습니다. 기계적으로 검증 가능한 '게이트'가 없는 작업은 AI 위임 시 인간의 판단 부담을 가중시킵니다.

주요 내용

• AI는 테스트 통과, 컴파일러 오류, 스키마 일치 등 기계가 검증 가능한 '오라클'이 존재하는 작업의 생성 속도를 크게 향상시킵니다.
• 기계적 검증이 불가능한 작업(예: 고객과의 대화 적절성, 아키텍처 적합성, 톤의 정확성)은 AI가 여러 그럴듯한 결과물을 생성하더라도 최종 판단은 인간의 몫이 됩니다.
• AI 위임 범위를 축소하고, 기계적 검증이 가능한 작업에 집중함으로써 전체적인 작업 속도를 높이고 인간의 판단 부담을 줄일 수 있습니다.
• AI는 작업의 최종 결과물을 더 많이 생성하게 하지만, 의사결정 과정의 '이유'는 기록되지 않아 학습과 개선에 어려움을 초래할 수 있습니다.
• AI 도입 시 "사람을 재교육해야 한다"는 접근 방식은 후순위이며, 우선적으로 인간에게 도달하는 의사결정의 수를 줄이는 '게이트'를 구축해야 합니다.
• AI 생성물의 검증은 프롬프트와 실제 요구사항 간의 '명세의 간극(Gulf of Specification)'을 인지해야 하며, 테스트 통과만으로는 완벽한 정확성을 보장하지 못합니다.
• 유용한 게이트의 예시로는 계획 검토, 알려진 좋은 참조와의 비교(diff), 구조화된 출력 검증기, 작은 Assertion 또는 Lint 규칙 등이 있습니다.
• AI에게 작업을 위임할 때 "나 자신 외에 다른 누군가가 그 결과물을 거부할 수 있는가?"를 질문하는 것이 실질적인 테스트입니다.

시사점

AI 활용의 핵심은 생성 비용 절감에 있지 않으며, 인간의 판단과 의사결정 과정에 소요되는 숨겨진 비용을 관리하는 것입니다. 효과적인 AI 도입은 기계가 검증 가능한 '게이트'를 먼저 구축하여 인간의 집중이 필요한 의사결정의 수를 줄이는 데 달려 있습니다.