AI 비용, ‘클라우드 절감’에서 ‘성과 입증’으로…고객 사용이 변수가 됐다

인공지능(AI) 도입이 빨라지면서 기업들의 비용 관리 방식도 근본적으로 바뀌고 있다. 단순히 클라우드 사용량을 줄이는 수준을 넘어, AI 투자와 실제 사업 성과를 어떻게 연결할지가 핵심 과제로 떠올랐다.

가트너의 마르코 메이나르디 부사장 애널리스트는 최근 ‘핀옵스 X 2026’ 행사에서 AI 비용 관리는 기존 클라우드·서비스형 소프트웨어(SaaS) 지출과 전혀 다른 문제라고 진단했다. 과거에는 기업 내부 사용자와 시스템이 비용을 대부분 결정했지만, 이제는 고객이 AI 기능을 어떻게 쓰는지까지 비용에 직접 영향을 준다는 설명이다.

그는 “이제는 우리 고객도 비용 변수”라며 “고객이 AI 애플리케이션에 어떤 질문을 입력하고 어떻게 활용하느냐에 따라 비용이 달라진다”고 말했다. 이어 “기존과는 다른 문제이기 때문에 해법도 달라져야 한다”고 덧붙였다.

이 변화는 기존 비용 추적 방식의 한계를 드러내고 있다. 클라우드 비용 관리는 보통 ‘태깅’이나 공유 자원 배분 같은 방법으로 지출을 나눠 추적해왔다. 하지만 AI 서비스는 이런 방식만으로는 실제 사용 맥락과 사업 효과를 파악하기 어렵다.

메이나르디는 “필요한 메타데이터가 기본적으로 존재하지 않기 때문에 이를 애플리케이션 안에 직접 구축해야 한다”며 “정교한 계측과 텔레메트리, 즉 시스템 활동 데이터를 수집·분석하는 장치가 필요하다”고 설명했다. 이를 통해서만 AI 비용과 매출, 생산성, 고객 경험 같은 ‘실질적 성과’를 연결할 수 있다는 의미다.

인프라 전략 변화와 규제 대응

AI는 인프라 전략도 다시 흔들고 있다. 한동안 기업 IT의 종착지처럼 여겨졌던 클라우드 대신, AI 시대에는 자체 데이터센터와 하이브리드 환경에 대한 관심이 다시 커지고 있다. 민감한 데이터를 보호하고 규제를 충족해야 하는 기업일수록 이 흐름이 더 뚜렷하다는 분석이다.

메이나르디는 일부 AI 공급자에 대한 신뢰 문제도 공개적으로 언급했다. 그는 “계약은 맺을 수 있겠지만, 특히 해외 기업이라면 가장 중요한 데이터는 결국 자체 데이터센터에 두려 할 것”이라며 “많은 AI 워크로드가 온프레미스에 남는 이유는 비용보다 ‘규제’에 가깝다”고 말했다.

결국 AI 비용 관리는 더 이상 기술 부서만의 문제가 아니다. 고객 행동, 데이터 주권, 규제 대응, 사업 성과 측정이 한데 얽히면서 기업들은 AI 지출을 ‘얼마를 썼는가’가 아니라 ‘무슨 가치를 만들었는가’로 설명해야 하는 상황에 놓였다. AI 투자가 늘어날수록 비용 통제보다 ‘성과 입증’의 중요성은 더 커질 가능성이 크다.