레드햇, 오픈소스로 AI 전환 가속…vLLM·llm-d 전면 배치

레드햇이 오픈소스 기반의 AI 전략 강화를 선언하며 엔터프라이즈 고객 대상의 AI 생산 환경 구축에 본격적으로 나섰다. 올해 '레드햇 서밋 2025'에서 공개된 핵심은 'vLLM'과 'llm-d'라는 두 가지 프로젝트로, 기존의 인프라를 버리지 않고도 AI 기술을 유기적으로 도입할 수 있는 진화형 접근법에 방점을 찍었다.

이 프로젝트들을 이끄는 크리스 라이트 레드햇 최고기술책임자(CTO)는 행사 중 실리콘앵글의 생중계 채널 '더큐브(theCUBE)'를 통해, 모든 기업이 AI를 중심으로 비즈니스와 운영 방식을 전환하려는 가운데 기존 시스템과 신기술 간의 조화를 어떻게 이루는지가 핵심 과제라고 강조했다. 그는 "기술 전환기에 모든 것을 버리고 새로 시작하는 선택은 리스크가 크다"며 "우리는 진화적인 접근이 더 현실적이라는 철학을 갖고 있다"고 설명했다.

첫 번째 프로젝트인 'vLLM'은 AI 모델의 추론(inference)을 위한 오픈소스 라이브러리로, 교육 중심 대형 언어모델(LLM) 구축이 아니라 이를 실제 운영 환경에 도입하는 과정, 즉 생산화에 초점을 맞춘 도구다. 라이트는 "vLLM은 모델 결과를 실제로 뽑아내는 과정에 필요한 핵심이자 추론 서버로써의 역할을 수행한다"며 "이를 기반으로 기업들이 자체 모델을 안정적으로 배포·운용할 수 있다"고 밝혔다.

두 번째 전략 축인 'llm-d'는 구글 클라우드, 엔비디아(NVDA), 시스코(CSCO), 인텔(INTC), AMD(AMD), 허깅페이스(Hugging Face) 등 업계 주요 기업들과의 협업으로 개발된 대규모 분산 추론 프레임워크다. 쿠버네티스를 기반으로 한 llm-d는 하나의 서버에서 작동하던 AI 모델 추론 프로세스를 기업의 전체 인프라 전반으로 분산시켜 대규모 운영을 가능케 한다는 점에서 생산 환경의 확장성과 비용 효율성을 동시에 잡을 수 있는 기술로 주목받고 있다.

레드햇은 이번 전략 발표를 통해 AI 시장 내 자사 입지를 한층 명확히 하려는 의도를 드러냈다. 가파르게 성장하는 생성형 AI 시장에서 기업 고객들은 단순한 기술 도입을 넘어, 기존 인프라와의 연계, 보안성, 확장성 등 다양한 조건들을 고려한 실용적인 구축 방식을 요구하고 있다. 레드햇은 바로 이 지점에서 오픈소스 중심의 유연성과 AI 변환의 현실적인 로드맵을 결합해 차별화를 꾀하고 있다.

이번 발표는 AI 산업에서 오픈소스가 차지하는 비중이 점차 확대되고 있음을 보여주는 또 하나의 사례이기도 하다. 업계 관계자들은 이러한 오픈소스 기반 생태계 확장이 클라우드와 AI 기술의 민주화를 더욱 가속화할 것으로 기대하고 있다. 레드햇은 향후 이러한 전략 프로젝트들을 기반으로 다양한 AI 파트너십과 사업 모델 확장을 이어갈 계획이다.