레드햇, 기업 AI ‘운영 플랫폼’ 승부수…VM·컨테이너·추론까지 한판에

레드햇이 기업 인공지능(AI) 시장에서 ‘운영 기반’ 경쟁력을 앞세워 존재감을 키우고 있다. 기업들의 고민이 더 이상 어떤 모델을 고를지에만 머물지 않고, 데이터와 애플리케이션, 가상머신(VM), 컨테이너, 추론 워크로드를 복잡한 하이브리드 환경에서 어떻게 안정적으로 돌릴지로 옮겨가고 있어서다.

AI 확산의 병목은 모델보다 ‘플랫폼’

최근 기업 AI는 실험 단계를 넘어 실제 업무 환경에 들어가고 있다. 이 과정에서 핵심 과제는 모델 성능 자체보다 이를 뒷받침하는 인프라와 운영 체계다. 더큐브리서치의 수석 애널리스트 폴 내쇼티는 레드햇의 오픈 하이브리드 클라우드 전략이 흩어진 인프라를 일관된 운영 레이어로 바꾸는 데 점점 더 중요해지고 있다고 평가했다.

그는 레드햇 서밋 2026이 애플리케이션 개발이 ‘플랫폼 엔지니어링’과 AI 기반 워크플로로 이동하고 있음을 보여준다고 짚었다. 기업들은 하이브리드 환경 전반에서 일관된 애플리케이션 배포를 위해 쿠버네티스 기반 플랫폼을 표준으로 삼고 있으며, 동시에 개발 파이프라인에 AI 기능을 결합하고 있다는 설명이다. 그 결과 개발팀과 인프라팀이 따로 움직이기보다, 하나의 공통 플랫폼 위에서 애플리케이션과 데이터, 모델을 함께 구축·운영하는 방향으로 정렬되고 있다.

레드햇, 전통 앱·VM·AI를 하나의 기반으로 묶는다

레드햇의 AI 전략은 전통적인 애플리케이션, VM, 컨테이너, AI 워크로드를 모두 하나의 기반에서 돌려야 한다는 인식에 출발한다. 더큐브리서치의 수석 애널리스트 롭 스트레체이는 “AI는 더 이상 과학 실험이 아니다”라며, 이제 시장의 화두는 AI를 어떻게 효율적으로 운영하고 책임 있게 통제하며, 실제 수익으로 연결하느냐에 있다고 말했다.

그는 AI의 진짜 병목은 모델이 아니라 ‘플랫폼’이라고 강조했다. 기업들이 AI 도입 의지가 없어서가 아니라, 파편화된 도구와 단절된 프로세스, 추론 중심의 분산형 워크로드에 맞게 설계되지 않은 인프라 때문에 어려움을 겪고 있다는 의미다. 이 과정에서 쿠버네티스는 여러 환경을 조율하는 핵심 계층으로 떠오르고 있지만, 실제 대규모 운영을 위해서는 이를 쉽게 쓸 수 있게 해주는 플랫폼이 필요하다는 분석이다.

특히 기업 입장에서는 AI 비용 구조도 갈수록 복잡해지고 있다. 스트레체이는 ‘토큰 경제학’이 새로운 클라우드 비용 모델로 부상하고 있지만 최고재무책임자(CFO)나 사업 부문 책임자에게는 여전히 매우 혼란스러운 개념이라고 진단했다. 결국 더 큰 모델을 만드는 기업보다, 추론을 얼마나 효율적으로 최적화하느냐가 경쟁력을 가를 가능성이 커지고 있다는 이야기다.

가상화는 교체가 아니라 ‘현대화’의 문제

가상화 시장도 레드햇에 새로운 기회를 주고 있다. 많은 기업이 기존 VM 환경을 다시 점검하고 있지만, 무조건적인 교체나 단절을 원하지는 않는다. 기존 애플리케이션을 유지하면서도 컨테이너와 AI 워크로드, 클라우드 네이티브 운영으로 자연스럽게 넘어갈 수 있는 전환 경로를 원한다.

레드햇의 제품 관리 수석 매니저 대니얼 메서는 VM과 컨테이너가 서로 다른 사일로에 갇혀 있어서는 안 된다고 설명했다. 그는 쿠버네티스가 원래부터 가진 힘은 통합에 있으며, KubeVirt가 이를 가능하게 한다고 말했다. 레드햇은 이를 통해 오픈시프트 가상화를 단순한 VM 대체재가 아니라, 더 넓은 애플리케이션 현대화 전략의 일부로 내세우고 있다.

레드햇의 수석부사장이자 최고제품책임자(CPO)인 아쉐시 바다니도 이 논의가 단순한 가상화 마이그레이션에 머물지 않는다고 강조했다. 기업은 VM을 수용하는 동시에 클라우드 네이티브 워크로드를 지원하고, 나아가 AI 기반 워크로드까지 처리할 수 있는 플랫폼을 원한다는 것이다. 레드햇은 결국 동일한 플랫폼이 이 모든 수요를 뒷받침할 수 있다고 보고 있다.

기업들이 원하는 것은 단순화와 통제력

레드햇이 던지는 메시지는 비교적 분명하다. 기업들은 AI 투자를 확대하면서도 도구의 난립은 줄이고, 보안은 강화하며, 운영 일관성은 높이려 한다. 이 흐름에서 여러 시스템을 따로 운영하는 대신, 쿠버네티스 기반 공통 플랫폼으로 레거시와 차세대 워크로드를 함께 관리하자는 접근이 힘을 얻고 있다.

레드햇의 제품 관리 수석 매니저 시아막 사데기안파르는 오픈시프트 데브 스페이스를 예로 들며, 개발자들이 웹 기반 환경에서 클릭 한 번으로 규제 대응형 개발 환경을 바로 쓸 수 있다고 설명했다. 기존에는 노트북을 바꾸거나 새로운 프로젝트에 들어갈 때 개발 환경을 다시 맞추는 데 일주일가량 걸리기도 했지만, 이를 크게 줄일 수 있다는 주장이다. 이는 결국 개발 생산성과 운영 표준화를 동시에 추구하는 전략으로 읽힌다.

‘소버린 AI’와 추론 비용이 새 변수로 부상

AI 주권, 이른바 ‘소버린 AI’는 이제 이사회 수준의 의제가 되고 있다. 기업과 정부, 규제 산업은 모델과 데이터, 결과물, 컴플라이언스를 직접 통제할 수 있는 구조를 원하고 있다. 레드햇 아시아태평양 최고기술책임자(CTO) 빈센트 칼데이라는 이를 ‘디지털 운명을 스스로 통제할 수 있는 능력’으로 정의했다.

그는 이 문제가 단순한 규제 준수나 보안을 넘어 경제 경쟁력과도 연결된다고 짚었다. 충분한 GPU를 확보하지 못한 국가는 ‘AI 팩토리’를 갖추기 어렵고, 결국 자체 모델과 AI 역량 구축에서도 뒤처질 수 있다는 설명이다. 레드햇으로서는 특정 클라우드나 특정 배포 방식에 갇히지 않는 오픈 하이브리드 클라우드 전략을 통해 이 수요를 겨냥할 수 있게 된다.

동시에 AI 시장의 무게 중심은 학습에서 추론으로 점차 이동하고 있다. 실제 운영 환경에서는 모델을 반복적으로 실행하고, 기업 데이터 가까이에서 안전하게 활용해야 하며, 비용도 통제해야 하기 때문이다. 레드햇의 AI 플랫폼 아키텍트 로베르토 카라탈라는 많은 고객이 이미 탐색 단계를 지나 운영 단계로 들어섰고, 이 과정에서 토큰 소비가 급증하고 있다고 전했다. 따라서 ‘비용 효율적인 모델’이 필수 조건이 되고 있다는 것이다.

GPU 수급 문제도 여전하다. 메서는 최근 GPU 확보가 매우 어렵고, 기업 환경에서는 그 난도가 더 높다고 말했다. 비싼 GPU가 놀거나 비효율적으로 쓰이지 않도록 관리하는 일이 AI 운영 경쟁력의 핵심이 되고 있다는 의미다.

레드햇은 결국 AI를 위한 별도 인프라가 아니라, 기존 기업 IT와 AI를 함께 품는 공통 플랫폼을 해법으로 제시하고 있다. 기업 AI 시장이 실험에서 운영으로 넘어가는 시점에서, 승부는 모델 자체보다 이를 안정적으로 굴릴 수 있는 ‘제어면’ 확보에 달렸다는 해석이 힘을 얻고 있다.