AI 시대의 핵심 인프라로 부상한 클라우드 네이티브 기술의 흐름 속에서 레드햇(Red Hat)이 새로운 해법을 제시하고 있다. 오픈소스 기반의 유연한 인프라와 강화된 보안을 무기로, AI 모델의 추론 성능을 극대화하고 기업전략과 운영 효율을 동시에 구현해내는 엔터프라이즈 플랫폼 구축에 나선 것이다.

레드햇은 최근 KubeCon + CloudNativeCon 행사에서 자사의 오픈소스 추론 플랫폼 ‘Red Hat AI 3’을 공식 출시하며 본격적인 시장 공략에 나섰다. 해당 솔루션은 쿠버네티스(Kubernetes)와의 네이티브 통합을 통해 운영자와 개발자, 데이터팀이 하나의 제어판, 거버넌스 모델, 단일 데이터 소스를 기반으로 협업할 수 있는 협업 환경을 제공한다. 이를 기반으로 AI 허브, 생성형 AI 스튜디오, 모델-애즈-어-서비스(Model as a Service) 등 다양한 툴이 통합 제공된다.

레드햇은 오픈소스 기술과의 상호운용성을 강조하고 있다. 원활한 도입을 위해 자사 솔루션을 외부의 개방형 프레임워크와 통합할 수 있도록 구성했으며, 사용자 맞춤형 툴을 플랫폼에 자유롭게 배치할 수 있도록 했다. 이 같은 전략은 클라우드 네이티브 생태계의 다변화에 발맞춘 것으로, 신뢰성과 투명성을 중시하는 기업 고객의 요구와도 맞닿아 있다.

레드햇의 오픈시프트(OpenShift) 플랫폼도 진화를 거듭하고 있다. 최근 배포된 ‘오픈시프트 4.20’ 버전은 가상머신 및 클라우드 네이티브 애플리케이션을 단일 플랫폼에서 함께 관리할 수 있도록 가상화 성능을 대폭 개선했으며, 이를 통해 더욱 유연한 하이브리드 운영 환경을 구현했다. 브라질 국영은행인 방코 보 브라질(Banco do Brasil)은 해당 기능을 활용해 GitOps 기반의 DevOps 자동화 프로세스를 운영하고 있다.

레드햇은 가상 대형언어모델(vLLM)과 대형언어모델 분산 프레임워크(llm-d) 등 AI 추론 인프라의 차세대 기술도 적극 도입하고 있다. 특히 vLLM은 쿼리의 목적이나 복잡도에 따라 적절한 LLM에 전송함으로써 컴퓨팅 자원을 효율적으로 운용할 수 있게 도와준다. 브라이언 스티븐스(Brian Stevens) 레드햇 CTO는 “AI 인프라의 역할은 점차 통합 플랫폼으로 이동하고 있다”며, 향후 vLLM을 중심으로 다양한 모델과 가속기를 하나의 구조로 포괄하는 것이 목표라고 밝혔다.

한편, llm-d는 멀티 노드 클러스터 전체에서 AI 추론 유닛을 확장 가능하게 하여 AI의 실질적 규모화를 가능하게 한다. 이를 통해 단일 노드를 넘어선 대규모 분산 인프라에서도 성능과 비용을 균형 있게 유지할 수 있는 기반을 제공한다.

레드햇은 보안 부문에서도 한발 앞서 나가고 있다. 최근 버전에는 강화된 클러스터 보안 기능 및 소프트웨어 공급망 보호를 위한 신뢰 인증 기반 도구들이 포함됐다. 이와 함께 제로트러스트(Zero Trust) AI 전략을 통해 모델 전 주기를 대상으로 한 접근 통제를 강화하고 사용자 신원 검증을 지속적으로 수행하는 구조를 마련했다. 이는 AI 활용이 확산됨에 따라 증가하고 있는 보안 위협에 선제적으로 대응하기 위한 것으로 풀이된다.

기업들이 AI의 도입에서 실질적 ROI 창출 단계인 추론 단계로 진입하고 있는 현재, 레드햇의 접근 방식은 민첩성과 통제력을 병행할 수 있다는 점에서 높은 주목을 받고 있다. 단순한 기술 스택 제공을 넘어, 기업의 거버넌스와 인프라 전략까지 고려한 통합 철학이 시장에서 확장성과 신뢰성을 동시에 확보하려는 수요와 맞물리고 있는 셈이다.

레드햇은 오픈소스의 개방성과 커스터마이징 자유도를 최대한 활용하면서도, 실무에 필요한 성능과 보안 기준을 충족하는 생산 등급 플랫폼을 지속 개발하고 있다. 이 같은 플랫폼 기반 전략은 기업들이 AI 실험을 넘어 실제 비즈니스 가치 구현으로 나아가는 데 필요한 핵심 토대가 될 전망이다.