기업들이 AI 기술을 초기 실험에서 벗어나 실전 단계로 본격 전환하고 있는 가운데, 이 과정에서 핵심 과제로 떠오른 것은 '모델 설계'가 아닌 '실행' 문제다. 인프라 준비도, 데이터 거버넌스, 조직 역량 등 실질적인 운영 능력 확보 여부가 성패를 가르는 요소로 주목받고 있다. 이러한 전환 국면에서 휴렛팩커드 엔터프라이즈(HPE)는 하이브리드 클라우드와 AI 인프라 중심의 전략으로 차별화에 나서며 기업 AI 도입의 실행 격차를 메우는 데 집중하고 있다.

HPE는 AI 실험을 반복 가능한 결과물로 전환하기 위해 'AI 팩토리' 개념을 전면에 내세우고 있다. 이는 기존 데이터 센터를 초고속 연산, 전력 효율, 데이터 중심 운영에 최적화된 공장 형태로 재구성한 개념으로, 훈련부터 추론·배포·모니터링에 이르기까지 AI의 전 생애주기를 자동화된 파이프라인으로 지원한다. 가속 컴퓨팅 기술과 고성능 네트워크 패브릭이 중심이 되는 이 AI 팩토리의 시장 규모는 2031년까지 1조 달러(약 1440조 원)를 넘어설 것으로 전망되며, 연평균 38%의 성장률을 기록할 것으로 예측된다.

AI 실행의 또 다른 기반은 하이브리드 클라우드다. 데이터의 위치와 지연 시간, 주권 규제, 비용 등을 고려하면, AI 모델을 단일 환경이 아닌 온프레미스, 엣지, 퍼블릭 클라우드 등 다양한 환경에 맞춰 유연하게 배포해야 한다는 압박이 커지고 있다. 이에 따라 HPE는 자사 그린레이크(GreenLake) 인프라에 텔레메트리, 오케스트레이션, 네트워크 중앙 제어 기능을 통합해 단일 지휘체계를 제공하고 있으며, 최근에는 GPU 최적화 및 멀티테넌시 운영을 위한 주요 솔루션 세 가지를 발표했다.

NVIDIA와의 협업 역시 실행 역량 강화의 핵심 축이다. 양사의 전략적 제휴를 통해 구성된 ‘NVIDIA AI Computing by HPE’ 포트폴리오는 프라이빗 클라우드 기반 AI 솔루션, 대규모 확장형 인프라, 국가 단위의 보안 및 데이터 주권 대응 플랫폼 등으로 나뉜다. 특히 HPE의 AI 팩토리는 GPU 세대를 넘어 통합 운용할 수 있도록 연합 아키텍처를 채택해, 미래 확장성에 대비하고 있다.

이미 실제 사례도 등장하고 있다. 콜로라도주의 소도시 베일은 인구 급증에 따른 공공 안전과 교통 문제를 해결하기 위해 HPE의 스마트 시티 솔루션을 도입했다. AI 기반 가상 공무원이 민원 응답과 문서 대조를 처리하고, 센서 시스템은 산불 조짐을 조기에 감지한다. 이는 하이브리드 클라우드 기반의 민첩한 실행 체계가 자원 제약 환경에서도 높은 수준의 AI 구현을 가능케 한 대표적 사례로 평가된다.

보안과 데이터 거버넌스 문제는 AI 확산의 속도만큼 중요성이 부각되는 분야다. HPE의 조사에 따르면 IT 리더의 74%가 AI 생성 데이터를 보호하는 것이 필수적이라고 응답했으며, 특히 AI 모델은 학습 시 취약한 데이터까지 저장함으로써 악의적 정보가 반복적으로 재생산될 위험을 안고 있다. 이에 HPE는 독립된 방화벽 내에서 모델과 데이터를 보존하고, 엔비디아, 인텔, AMD 등과 협력해 컨피덴셜 컴퓨팅도 강화하고 있다.

AI 인프라의 척추라고 할 수 있는 네트워크와 스토리지 부문도 대폭 고도화되고 있다. HPE는 AI 전용 스위치를 통해 네트워크 지연 시간을 줄이고, 스토리지는 단순 저장소가 아닌 ‘데이터 인텔리전스 레이어’로 전환해 실시간 처리와 분류를 가능하게 한다. 이는 AI 에이전트 기반의 업무 자동화에서 핵심 요소로 작용한다.

이 같은 기술 전략의 확장은 협력 생태계 구축으로 이어지고 있다. HPE는 'Unleash AI' 파트너 프로그램을 통해 사이버보안, 규제 준수, 오케스트레이션 영역의 독립 소프트웨어 기업들과 협력하고 있으며, 이들이 검증한 프레임워크를 통해 고객은 복잡한 AI 환경을 보다 쉽게 적용할 수 있다. 실제로 베일 시의 경우, 커스터마이징된 에이전트와 플랫폼은 각각 카미와자와 SHI 인터내셔널이 공급하며, HPE는 이를 통합 운영할 수 있도록 지원하고 있다.

결국, AI는 실험에서 확장 가능한 비즈니스 성과로 나아가는 전환기에 직면해 있다. 기존 범용 데이터 센터에서 벗어나 AI 팩토리라는 새로운 인프라 모델이 요구되며, HPE는 NVIDIA와의 공동 설계, 고도화된 파트너 생태계, 하이브리드 클라우드 기반의 통합 플랫폼 제공을 통해 이 전환을 리드하고 있다. 기업들이 비즈니스 현장에 AI를 실질적으로 도입하고자 할 때, 필요한 것은 복잡한 기술보다도 이를 ‘실행’에 옮길 수 있는 인프라와 전략이라는 점을, 이번 사례는 분명히 시사하고 있다.