Meta’s Adam Mosseri says AI token budgets could soon be capped per engineer

개요

Meta의 Adam Mosseri는 향후 1~2년 안에 엔지니어당 AI 토큰 사용 예산에 상한선을 설정할 필요가 있을 수 있다고 언급했습니다.

주요 내용

* AI 토큰 사용 비용은 AI 모델에 프롬프트를 처리하고 응답을 생성하는 데 드는 비용을 의미하며, 최근 큰 주목을 받고 있는 주제입니다.
* Meta는 2026년 AI 비용이 수십억 달러에 달할 것으로 예상되자 내부 AI 토큰 사용량 순위표를 중단했습니다.
* Uber 또한 2026년 AI 코딩 예산을 4월에 초과 달성한 후 AI 사용 방식을 재검토했습니다.
* Microsoft는 급증하는 토큰 비용으로 인해 Claude Code 라이선스를 취소하고, 자체 Copilot CLI 도구에 엔지니어들을 집중시켰습니다.
* Mosseri는 AI 토큰 비용을 급여, 운영 비용(OpEx)과 같이 다른 자원과 마찬가지로 관리해야 한다고 주장했습니다.
* GPU, CPU, 스토리지, RAM 등 제한된 자원의 배포와 마찬가지로 AI 토큰 예산도 ROI(투자수익률)를 고려하여 신중하게 배포해야 합니다.
* Meta는 현재 직원들에게 토큰 예산 상한선을 두고 있지 않지만, 향후 이를 적용하는 것이 건강할 것이라고 Mosseri는 생각합니다.
* 장기적으로 AI 모델 개발사들이 가격 경쟁을 벌이면 토큰 비용은 감소할 것으로 예상됩니다.
* 현재 Meta는 '가치 없는' 활동, 예를 들어 토큰 사용량 순위표 폐지 등을 통해 토큰 비용을 일부 절감했습니다.

시사점

AI 기술의 급속한 발전과 함께 발생하는 높은 비용은 기업들이 자원 관리의 필요성을 인식하게 하고 있으며, 효율적인 AI 활용을 위한 예산 관리 방안 마련이 중요해질 전망입니다.