AI 도입 경쟁, 이제는 비용 통제 시험대…핀옵스가 관리 범위 넓힌다

인공지능(AI) 도입이 빨라지면서 기업들의 관심도 ‘가치 창출’에서 한발 더 나아가 ‘AI 비용 관리’로 옮겨가고 있다. 기업들은 빠르게 늘어나는 AI 관련 지출을 통제하기 위해 거버넌스와 핀옵스(FinOps) 체계를 강화하는 분위기다.

소프트웨어원(SoftwareOne Inc.)의 정보기술 자산관리·핀옵스 컨설팅 부문 부사장이자 핀옵스 재단(FinOps Foundation) 이사회 멤버인 트렌트 올굿(Trent Allgood)은 최근 핀옵스 X 2026 행사에서 “지금 모두가 풀어야 할 문제는 사실상 ‘혼돈’”이라며 “기업들은 ‘AI를 써서 가치를 만들어라’는 요구를 받았지만, 동시에 그 과정에서 새로 생기는 비용을 어떻게 관리할지 고민하고 있다”고 말했다.

클라우드 비용 관리에서 AI 관리로 넓어진 핀옵스

핀옵스는 원래 클라우드 비용 최적화에 초점을 맞춘 운영 방식으로 알려졌지만, 이제는 AI까지 관리 범위가 확대되고 있다. 소프트웨어원홀딩(SoftwareOne Holding AG)의 글로벌 핀옵스 책임자인 파커 낸콜라스(Parker Nancollas)는 기업들이 현재 AI를 바라보는 태도가 초기 클라우드 도입기와 비슷하다고 진단했다.

그는 AI 운영의 핵심은 ‘지속적인 개선’이라고 강조했다. 지금의 모범 사례가 일주일 뒤에는 바뀔 수 있을 만큼 변화 속도가 빠르지만, 그 자체가 문제는 아니라는 설명이다. 낸콜라스는 “오늘 기준으로 최선인 방식을 적용하고, 산업과 운영 기준이 바뀌면 서비스 제공자와 고객 모두 함께 진화하면 된다”며 “AI 비용 관리 역시 그런 학습 과정의 일부”라고 말했다.

60일 만에 교체되는 AI 모델, 예산 수립도 달라진다

두 전문가는 특히 AI 모델의 ‘수명 주기’가 기존 IT 자산보다 훨씬 짧다는 점을 가장 큰 구조적 변화로 꼽았다. 온프레미스 서버는 통상 3년에 걸쳐 감가상각했고, 클라우드 서비스도 수개월에서 수년 단위로 운영됐다. 반면 AI 모델은 60일 안에 생산 환경에서 빠지고 새 모델로 대체될 수 있다.

이런 변화는 예산 편성과 비용 예측 체계에 큰 부담을 준다. 기존 핀옵스 팀은 비교적 안정적인 인프라 비용을 전제로 설계된 경우가 많아, 짧은 주기로 교체되는 AI 모델의 특성을 충분히 반영하지 못한다는 지적이다.

낸콜라스는 “이제 모델은 한 번 구축하면 오래 쓰는 자산이 아니라, 교체를 전제로 한 ‘소모성’ 요소로 봐야 한다”며 “예산에는 이미 도입한 모델의 운영비뿐 아니라 새 모델을 시험하고 개발하는 연구개발 비용, 그리고 업그레이드 비용까지 포함돼야 한다”고 설명했다.

기술 투자 성과, 부서 간 협업이 좌우

이번 논의는 AI 비용 관리가 단순히 IT 부서의 절감 과제가 아니라는 점도 보여준다. AI는 도입 속도가 빠르고 실험이 잦은 만큼, 재무·기술·운영 부서가 함께 기준을 세우고 투자 성과를 점검해야 실질적인 사업 가치를 만들 수 있다는 것이다.

결국 AI 확산 국면에서 핀옵스의 역할은 더 넓어지고 있다. 기업들이 AI로 성과를 내려면 단순한 도입 경쟁을 넘어, 변화가 빠른 모델 교체 주기와 불확실한 비용 구조를 관리할 수 있는 체계를 먼저 갖춰야 한다는 의미다. AI 비용 관리 역량이 앞으로 기업의 기술 투자 효율을 가르는 핵심 변수로 떠오를 가능성이 크다.