|
16일 업계에 따르면, 글로벌 시장조사업체 가트너는 2028년까지 전 세계 조직의 20%가 AI 관련 비용을 통제하지 못해 업무 적용을 포기하고 기존 소프트웨어 개발 체제로 회귀할 것으로 예상했다. 투자 대비 효과가 떨어지는 영역을 중심으로 AI 도입을 철회하고 전통적인 시스템으로 되돌아가는 흐름이 가속화될 수 있다는 지적이다.
AI 개발사들이 시장 점유율을 늘리기 위해 저렴한 요금을 내세우던 초기와 달리, 최근 대형언어모델(LLM) 시장은 과점 체제로 재편 중이다. 정액제 중심이던 요금 방식도 실제 사용량에 맞춰 부과하는 종량제로 빠르게 이동하고 있다. 가격 주도권이 공급자에게 넘어가면서 사용량이 늘수록 기업의 비용 예측 가능성은 한층 떨어지는 구조다.
실제 마이크로소프트(MS)는 수천 명의 임직원에게 제공하던 클로드 코드 라이선스를 중단하고 자사 깃허브 코파일럿으로 교체했다. 우버 역시 엔지니어 5000여 명에게 AI 코딩 도구 활용을 장려했으나, 연간 관련 예산이 4개월 만에 바닥나자 1인당 월 사용 한도를 약 1500달러로 제한했다.
맥킨지가 주요 기업 75곳을 대상으로 진행한 조사에 따르면 응답 기업의 93%가 AI 관련 예산을 초과 집행했다고 답했다. 특히 자율적으로 임무를 수행하는 에이전트형 AI는 전체 비용의 60%가 단순 추론이 아닌 결과물 수정·보완 과정에서 발생하며, 재시도가 반복될 경우 토큰 소비량이 최대 50배까지 폭증하는 것으로 나타났다.
가트너는 AI 비용을 실시간으로 추적·관리하는 ‘AI 핀옵스(FinOps)’ 구축을 해결책으로 제시했다. 업무 성격에 최적화된 모델을 선별하고 출력 범위를 조절하는 등 가성비 중심의 운용 전략이 필수적이라는 제언이다. 다만 거대 AI 모델의 고비용 구조가 고착화될 경우, 자본력을 갖춘 대기업과 일부 산업에만 활용이 집중되면서 기업 간 생산성 격차가 더욱 벌어질 수 있다는 지적도 나온다.
