AI 비용절감 측정 기업 40%, 절감률 10% 미만

기업의 생성형 인공지능(AI) 도입이 빠르게 늘었지만 비용 절감과 업무 전환 성과는 기대보다 늦게 나타나고 있다. 실험은 늘고 실제 배포는 막히는 '파일럿 정체'가 AI 투자 사이클의 핵심 병목으로 떠올랐다.

포춘(Fortune)은 30일 에이미 웹(Amy Webb) 퓨처 투데이 스트래티지 그룹(Future Today Strategy Group) 최고경영자 인터뷰를 통해 기업 AI 도입 비용 문제를 보도했다. 웹은 "AI는 생산을 싸게 만들지만, 기업 안의 다른 모든 것을 훨씬 비싸게 만들고 있다"고 말했다.

웹의 지적은 생성형 AI가 기업에 즉각적인 만족감을 주는 단계와 이를 실제 상품·업무 흐름에 넣는 단계가 다르다는 데 있다. 보고서 초안 작성이나 코드 보조처럼 눈에 보이는 생산 속도는 빨라졌지만, 법무 검토와 보안, 내부 시스템 연동, 업무 절차 개편에는 별도 비용이 붙는다.

웹이 지목한 문제는 '파일럿 정체(pilot purgatory)'다. 파일럿은 계속 돌아가지만 법무, IT, 내부 시스템, 실제 업무 절차와 붙지 않아 같은 실험을 반복하는 상태를 뜻한다.

포춘은 한 기업이 올해 들어 생성형 AI와 에이전트 파일럿 14~15개를 진행했지만 어느 것도 전사 확산 단계로 가지 못했다고 전했다. 웹은 파일럿이 인프라에 묶이지 않으면 매번 처음부터 다시 시작하게 되고, 이 과정에서 비용이 커진다고 설명했다.

문서 과잉도 비용으로 돌아왔다. 발표 자료와 분석 보고서는 이전보다 빨리 만들어지지만, 같은 조직이 읽고 판단해야 할 자료도 함께 늘어난다.

웹은 일주일 걸리던 발표 자료가 하루 만에 만들어지지만 받는 자료의 양은 몇 배로 늘어나는 상황을 언급했다. 생산 속도가 올라가도 의사결정 속도가 같이 오르지 않으면 병목은 다른 곳으로 옮겨간다는 의미다.

수치도 이 진단과 맞물린다. CFO닷컴은 베인앤드컴퍼니(Bain & Company) 조사를 인용해 951개 글로벌 기업 중 AI 비용절감 효과를 측정한 기업의 40%가 10% 미만 절감에 그쳤다고 보도했다.

같은 조사에서 기업의 90%는 AI 예산을 다시 늘리겠다고 답했다. 비용 절감은 목표에 못 미쳤지만 지출은 이어지는 구조다.

반대 시각도 있다. 옥스퍼드 이코노믹스(Oxford Economics)는 5월 27일 보고서에서 AI가 선도 업종에 널리 도입됐지만 활용 깊이는 아직 낮다고 밝혔다.

옥스퍼드 이코노믹스의 판단은 도입 범위보다 실제로 어떻게 쓰이는지가 더 중요하다는 쪽에 가깝다. 오픈AI(OpenAI)는 7월 31일 글에서 더 낮은 비용의 지능이 더 많은 일을 가능하게 만든다고 밝혔다.

오픈AI는 유용한 지능의 비용이 내려가면 채택과 투자, 효율 개선이 이어지는 순환을 강조했다. AI 투자 논쟁이 기술 자체의 성능보다 조직이 그 성능을 흡수하는 방식으로 옮겨가고 있다는 점에서는 양쪽 시각이 맞닿아 있다.

금융시장에서는 AI 투자 재원의 질도 쟁점이다. 로이터는 8월 21일 AI 인프라 구축을 위한 미국 기업 부채 발행이 투자자 수요의 한계를 시험하고 있다고 보도했다.

일부 대형 기술기업의 신용도에 대한 신뢰는 남아 있지만, 발행 물량이 늘면서 투자자들이 더 높은 수익률을 요구하는 흐름이 나타났다는 내용이다. 이는 AI 약정 3조달러가 빅테크 장부 밖 부담으로 쌓이고 있다는 본지 보도와도 이어진다.

한국 독자에게 중요한 대목은 AI 기술의 성능보다 기업의 회수 능력이다. 생성형 AI가 보고서, 코드, 고객 응대 같은 작업 단위를 빠르게 만들 수 있다는 점은 확인되고 있지만 절감액을 누가 측정하고, 남는 시간을 어디에 배치하며, 실패한 파일럿을 어떻게 중단할지는 별도 문제다.

크립토 시장과의 연결고리는 아직 제한적이다. AI 인프라 부담이 기술주와 위험자산 심리에 영향을 줄 수는 있지만, 특정 AI 토큰이나 주요 암호화폐 가격 움직임을 이 사안만으로 설명할 근거는 부족하다. 현재 확인되는 사실은 AI 도입 확대와 실질 성과 사이의 간격이 기업 내부 비용과 자금조달 비용에서 동시에 드러나고 있다는 점이다.