The Budget Mistake Most Companies Make in Their Second Year of AI

개요

기업들이 AI 도입 2년차에 저지르는 예산 오류는 AI 도구를 고정 비용으로 취급하고 지속적인 인프라 투자 필요성을 간과하는 패턴으로 나타난다.

주요 내용

• AI 도입 초기(1년차)에는 라이선스 구매, 구현, 파일럿 운영 등 비용이 명확하게 파악된다.
• 2년차부터는 자동 갱신되는 라이선스 비용은 처리되지만, AI를 유용하게 유지하기 위한 실제 작업(프롬프트 개선, 데이터 정리, 인덱스 유지보수, 비즈니스 변화에 따른 워크플로우 조정 등)이 간과된다.
• 이러한 유지보수 작업은 특정 담당자의 업무 외 시간에 비공식적으로 수행되며, 업무량이나 시간에 대한 정식 인정이나 보호 장치가 부족하다.
• 담당자가 다른 우선순위에 밀리게 되면 AI 도구의 성능이 점진적으로 저하되어 지식 기반이 낡고, 검색 결과가 부정확해지며, 사용자 신뢰도가 하락하고 결국 AI 활용률이 감소한다.
• 이 예산 오류는 기술 비용만을 전체 비용으로 간주하고, 기술 가치를 유지하는 데 필요한 노동 비용을 무시하는 데서 발생한다.
• 해결책은 IT 인프라처럼 AI 인프라에 대한 명시적인 책임자를 지정하고, 해당 직무에 유지보수 업무 시간을 명시적으로 포함시키는 것이다.
• 100명 규모의 기업에서 몇 가지 AI 도구를 업무에 통합하여 사용할 경우, 주당 10~15시간의 AI 인프라 유지보수 시간이 필요하며, 이는 실질적인 비용으로 간주되어야 한다.
• AI의 가치를 여러 해 동안 지속적으로 유지하는 기업은 AI를 단순 소프트웨어 구매가 아닌 인프라 구축으로 인식하고 지속적인 투자를 한다.

시사점

AI 도구를 장기적으로 효과적으로 활용하기 위해서는 초기 도입 비용뿐만 아니라, 지속적인 유지보수에 필요한 인력과 예산을 명확히 책정하고 관리하는 것이 필수적이다.