고성능 컴퓨팅(HPC) 분야가 빠르게 변화하고 있다. 불과 몇 년 전만 해도 최신 프로세서 성능에 초점이 맞춰졌던 업계는, 이제 AI로 대변되는 전반적인 인프라 혁신으로 화두를 옮겼다. 실리콘밸리 대표 테크 분석 미디어인 더큐브(theCUBE)는 최근 미국 댈러스에서 열린 HPC 분야 최대 행사 SC25에서 이러한 패러다임 전환을 집중 조명했다.

AI 추론 기술의 부상은 차세대 컴퓨팅 인프라 설계에 결정적 역할을 하고 있다. 실제로 미국 산림청은 슈퍼마이크로컴퓨터(SMCI)와 오리건주립대와 협력해 서식지 내 소리 데이터를 수집·분석하며 멸종 위기 종을 AI 기반으로 추적하고 있다. 이처럼 학습된 모델을 실시간으로 활용하는 추론이 점점 중심 무대로 올라오면서, 엔비디아(NVDA)는 자사의 대규모 멀티노드 환경에서 다양한 AI 모델을 손쉽게 추론할 수 있도록 지원하는 '다이나모(Dynamo)' 프레임워크를 공개했다. 여기에 스토리지 파트너사 위카(WekaIO)와의 통합 구조도 갖추며, 전체 메모리 계층에서 확장 가능하도록 설계됐다.

이와 같은 AI 수요 증가는 단순한 하드웨어 공급을 넘어, 하이브리드 클라우드 전략 전반에도 큰 영향을 미치고 있다. 에이전틱 AI(agentic AI), 즉 상황에 맞춰 자율적으로 문제를 해결하는 AI 에이전트 플랫폼이 확산되며, 기업들은 기존 인프라만으로는 새로운 AI 연산 수요를 감당할 수 없게 됐다. 이에 따라 밋 마이크로소프트(MSFT)와 협력해 신형 AI 인프라 플랫폼을 애저(Azure) 클라우드에 통합한 바스트데이터(Vast Data)는, 하이브리드 환경에서 추론 기반 AI 서비스를 실시간으로 돌릴 수 있는 ‘인사이트엔진’과 ‘에이전트엔진’을 전면에 내세웠다.

클라우드 중심 구도에서 벗어나 GPU를 보다 경제적으로 운용하려는 움직임도 확인된다. 대형 하이퍼스케일러의 비싼 서비스 비용 대신, GPU 임대와 특화된 컴퓨팅 구조를 제공하는 ‘네오클라우드’ 업체들이 주목받고 있다. 이들은 자체 데이터 스토어와 데이터베이스를 구축하는 대신, 바스트데이터의 분리형 인프라 설계를 채택해 시간과 비용을 절감하려는 추세다.

또 다른 핵심 이슈는 메모리와 저장장치 효율성이다. 코드 작성 보조와 추론 기반 AI 에이전트 운용이 본격화되면서, GPU와 DRAM 기반 시스템은 성능 병목에 직면하고 있다. 이에 위카는 자사 AI 추론 시스템에 '오그멘티드 메모리 그리드' 기술을 도입해 일반 DRAM 수준의 속도를 유지하면서도 훨씬 더 큰 메모리 용량을 처리할 수 있도록 했다. 이는 장기 문맥 추론 기능을 필요로 하는 최신 AI 워크플로우에 최적화된 기술로 평가된다.

스토리지 부문에서도 변화가 감지된다. 에스케이하이닉스 자회사인 솔리더짐(Solidigm)은 통신 대역폭 증가와 GPU 코어 확장을 맞춰 안정적이고 빠른 고밀도 저장 시스템 수요가 급증하고 있다고 밝혔다. AI 중심 아키텍처가 대세가 되며, GPU뿐만 아니라 스토리지와 네트워크 전반에 걸쳐 전통적인 성능 기준이 조정되고 있는 것이다.

이처럼 현재 HPC 산업은 AI 기반의 추론, 에이전트 기술, 메모리 혁신, 클라우드 구조 전환 등 다층적 변화를 겪고 있다. 각기 다른 분야의 기술들이 유기적으로 통합되며, 데이터센터 인프라는 어느 때보다도 빠르게 진화하고 있다. 이번 SC25 행사에서 확인된 이 흐름은, AI가 컴퓨팅의 새로운 ‘전력망’이자 ‘디지털 엔진’으로 급부상했음을 여실히 보여준다.