AI 실험 확산…클라우드 비용 통제, ‘자동화 거버넌스’로 옮겨가나

인공지능(AI) 도입이 빨라지면서 클라우드 비용 관리가 더 이상 개발 조직만의 과제가 아니라는 지적이 나왔다. 영업과 재무, 경영진까지 AI 도구를 직접 쓰기 시작하면서, 실험은 장려하되 비용 급증은 막는 ‘자동화된 거버넌스’의 필요성이 커지고 있다.

핀옵스 재단의 ‘2026 핀옵스 현황 보고서’에 따르면 응답자의 98%가 현재 AI 관련 지출을 관리하고 있는 것으로 나타났다. 다만 상당수 기업은 이를 대규모로 통제할 장치를 아직 충분히 갖추지 못한 상태다. 혁신을 밀어주면서도 비용 폭주를 막아야 하는 이 긴장 지점에서 노어 랩스의 키온 핀옵스 플러스(Kion FinOps+)가 해법을 제시하고 있다고 테이텀 터민스(Tatum Tummins) 키온 수석 제품 관리자는 설명했다.

그는 실리콘앵글 미디어의 더큐브(theCUBE)와 진행한 인터뷰에서 “기술 조직 내 모든 1달러의 흐름을 볼 수 있어야 한다는 점이 최우선”이라며 “가시성이 확보돼야 최적화와 거버넌스도 가능해진다”고 말했다.

‘섀도 AI’가 만든 새 비용 리스크

터민스는 내부 해커톤 사례를 언급하며 AI 비용 관리의 성격이 달라졌다고 짚었다. 당시 한 영업팀 구성원이 개발자들보다 더 많은 AI 프롬프트 비용을 썼다는 것이다. 아마존 베드록(Amazon Bedrock), 앤트로픽(Anthropic) 같은 서비스가 비개발 부서로 빠르게 확산하면서, 이제는 모든 사용자가 비용 구조를 이해하고 있을 것이라고 가정하기 어렵다는 의미다.

그는 “사람들에게 놀이터는 열어주되, 그 주위에 울타리는 쳐야 한다”고 말했다. 이어 “지금 가드레일과 거버넌스를 고민하는 조직만이 나중에 최고재무책임자(CFO)의 강한 제동을 피할 수 있다”며 과거 클라우드 초기 확산기와 비슷한 비용 통제 문제가 재연될 수 있다고 경고했다.

대시보드가 아니라 ‘실행 가능한 통제’가 핵심

키온의 대응 방식은 고객사의 아마존웹서비스(AWS)나 마이크로소프트($MSFT) 애저(Azure) 계정 안에 직접 배치되는 ‘셀프호스팅’ 기반 정책형 플랫폼이다. 단순히 비용 현황을 보여주는 대시보드를 넘어서, 인스턴스 유형과 그래픽처리장치(GPU) 사용, 토큰 한도 등에 실제 통제를 걸 수 있다는 점을 강점으로 내세운다.

이 방식은 민감한 재무 데이터를 고객이 승인한 환경 안에 남겨둘 수 있다는 점에서도 의미가 있다. 특히 규제가 강한 산업군에서는 외부로 데이터가 나가는 구조보다 내부 통제형 설계가 더 적합할 수 있다.

터민스는 AI 실험을 무조건 중단시키는 ‘하드 컷오프’보다 ‘소프트 캡’이 더 현실적이라고 봤다. 일정 수준의 토큰 사용량이나 비용 한도에 도달하면 경고를 보내고, 이후에는 사람의 승인 절차를 거치도록 해 비용 급등 전에 판단할 시간을 주는 방식이다.

그는 “엔지니어가 토큰 임계치에 도달했을 때 이를 알고, 계속 진행할지 아니면 지금까지의 사용을 점검할지 결정할 수 있어야 한다”며 “결국 필요한 것은 적절한 견제와 균형”이라고 말했다.

다음 경쟁은 AI 서비스 단계의 직접 통제

터민스는 향후 1년간 가장 중요한 제품 과제로 ‘자동화된 거버넌스’를 꼽았다. 이제 기업의 관심은 단순한 가시성 확보를 넘어, 실제 AI 서비스 공급자 단계에서 집행 가능한 통제로 이동하고 있다는 설명이다.

그는 “핵심은 AI 거버넌스를 얼마나 쉽게 도입할 수 있느냐”라며 “사람이 개입하는 승인 체계와 워크플로를 통해 의사결정을 가능하게 해야 한다”고 말했다. 이어 앤트로픽, 오픈AI(OpenAI), 베드록, 파운드리(Foundry) 같은 서비스 안에서 직접 통제를 적용해 기업이 보다 ‘편안하게’ 확장할 수 있어야 한다고 덧붙였다.

이번 발언은 AI 확산이 생산성 향상과 혁신의 기회를 주는 동시에, 통제가 없을 경우 새로운 비용 리스크로 번질 수 있음을 보여준다. 기업 입장에서는 AI 활용 자체보다도 ‘누가, 어디서, 얼마를 쓰는지’를 실시간으로 파악하고 승인 체계를 붙이는 일이 점점 더 중요해지고 있다.