AI 추론 수요 폭증...클라우드 네이티브 솔루션 급부상

김민준 기자

2026.03.26 (목) 22:26

AI 추론 수요 증가로 클라우드 네이티브 오픈 소스 인프라가 주목받고 있다. 쿠버네티스 AI 적합성 프로그램에서 인증된 플랫폼 수가 급증했다.

AI 추론 수요 폭증...클라우드 네이티브 솔루션 급부상 / TokenPost.ai

AI 추론의 수요 증가와 특수 하드웨어의 필요성으로 인해 AI 워크로드 처리가 점점 더 복잡해지고 있다. 이에 대응하기 위해 클라우드 네이티브 오픈 소스 인프라가 해결책으로 떠오르고 있다. 이러한 변화는 쿠버네티스 생태계에서도 나타나고 있으며, 최근 클라우드 네이티브 컴퓨팅 파운데이션(CNCF)은 쿠버네티스 AI 적합성 프로그램에서 인증된 플랫폼 수를 지난 해에 비해 거의 두 배로 늘렸다.

리눅스 재단의 클라우드 및 인프라 총괄인 조나단 브라이스는 "앞으로 10년에서 20년 동안 AI가 기술 발전을 주도하는 핵심 요소로 부상할 것"이라고 강조했다. 그는 또한 AI 워크로드가 전통적인 클라우드 워크로드와는 매우 다르며, 예측 불가능한 수요 패턴과 대량 용량의 필요성을 지적했다.

CNCF는 다양한 프로젝트를 통해 AI 인프라 도전을 극복하고자 하고 있다. 쿠버네티스의 동적 리소스 할당 및 추론 게이트웨이와 같은 기존 프로젝트의 진화, 수평적으로 확장 가능한 추론을 위한 ‘llm-d’와 같은 새로운 프로젝트의 도입, PyTorch 및 vLLM과 같은 오픈 소스 AI 도구와의 통합이 그것이다. 브라이스는 이러한 노력을 '랩에서 공장으로 기술을 이전하는 과정'으로 표현하며, AI 전문가들이 개발한 혁신을 운영 가능한 형태로 전환하는 과정을 설명했다.

AI 추론의 수요는 2025년 20.9기가와트에서 2030년 93.3기가와트로 급증할 것으로 예상되며, 이는 데이터 센터 내에서 훈련을 넘어서는 주요 워크로드가 될 것이라고 브라이스는 덧붙였다. 이는 경제성을 높이기 위한 보다 작고 특화된 모델을 찾는 동기부여가 되고 있다. 전문가들은 이러한 특화된 모델이 더 빠르고 정확하며, 경제적이라는 점을 강조하고 있다.

뉴스를 실시간으로...토큰포스트 텔레그램 가기

당신의 최대 리스크는 시장이 아닙니다. 당신 자신입니다.

내 투자 DNA 확인하기 →

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

광고문의 기사제보 보도자료

#클라우드네이티브 #AI추론 #쿠버네티스