AI 시대, 클라우드 비용 급증...실시간 데이터 처리 불균형이 주범

클라우드 비용이 급증하고 있으며, 많은 기업들이 이러한 문제를 해결하려고 분투하고 있다. 많은 회사들이 성장 추진 수단으로 클라우드를 사용하고 있지만, 역설적으로 이로 인해 비용이 늘어났다. 최근 PwC 조사에 따르면 응답자의 55%는 인공지능(AI) 도구로부터 실질적인 이점을 아직 느끼지 못하고 있다.

많은 경우 비용 절감 대책으로 '파이낸셜 운영'(FinOps)이 언급되지만, 문제는 여전히 해결되지 않고 있다. 기업들은 여전히 클라우드 예산의 4분의 1 이상을 낭비하고 있다. 기존 인프라는 향상된 대시보드와 정교한 예측 도구를 사용했음에도 불구하고, 클라우드 비용 증가를 막지 못하고 있다.

AI의 부상으로 클라우드의 구조는 데이터를 처리하는 데 적합하지 않게 되었다. 과거에는 일정한 데이터셋과 배치 처리 방식으로 클라우드 분석이 이루어졌지만, AI는 실시간으로 데이터 파이프라인을 처리해야 하며, 이로 인해 데이터 처리량과 복잡성이 증가했다. 하지만 클라우드의 기본 아키텍처는 그에 맞게 발전하지 않았다.

문제의 핵심은 데이터 처리 층을 재편성하는 데 있다. 오늘날의 엔진은 동일한 CPU 클러스터를 위한 것이지만, 최신 인프라는 다양한 하드웨어를 통해 이루어져 있다. 소프트웨어가 이에 맞게 조정되지 않으면, 비용은 비슷하면서 성능은 예전 수준에 머물게 된다.

따라서 AI의 요구에 맞게 인프라를 맞춤화하는 것이 비용 절감의 핵심이다. 대형 전자상거래 플랫폼이 이를 통해 데이터 처리 비용을 80% 줄인 사례도 있다. 가장 중요한 것은, FinOps가 아닌 데이터 처리 방식의 전환을 통해 클라우드 비용을 줄일 수 있다는 점이다.