AI 인프라 수요가 전례 없는 속도로 증가하면서 데이터센터 용량이 새로운 경쟁의 무대가 되고 있다. 고밀도 시스템의 도입으로 전력, 냉각, 공간 구성 등 기존 인프라의 한계를 넘어서야 한다는 압박이 커지고 있으며, 이는 고성능 컴퓨팅(HPC) 산업 전반의 전략 변화를 불러오고 있다.

최근 열린 SC25 행사에서 실리콘앵글 산하 리서치 조직 더큐브(theCUBE)의 존 퓨리어(John Furrier) 수석 애널리스트는 “불과 4년 전만 해도 HPC는 느리게 진화하던 분야였지만, 엔비디아의 급부상 이후부터는 AI 중심의 클러스터가 대세가 됐다”며 “이제 모든 하이퍼스케일 클라우드 및 네오클라우드는 인프라 투자에 열을 올리고 있고, AI 인프라 붐은 거대한 ‘인프라 쓰나미’처럼 몰려오고 있다”고 진단했다.

AI 시스템의 발전과 함께 하드웨어의 무게와 발열이 증가하면서 낡은 데이터센터는 더 이상 그 무게를 감당하지 못한다. 더큐브의 재키 맥과이어(Jackie McGuire) 애널리스트는 “기존 설비 위에 AI 랙을 얹는 건 구조적으로 무리”라며 “이러한 구식 센터들은 결국 대용량 저장소 중심으로 전환되거나 폐쇄 후 재건축될 가능성이 크다”고 말했다.

한편, HPC 생태계는 지역적으로도 다변화되는 추세다. 대만과 일본 등 아시아 국가들의 적극적인 참여가 두드러지며 단일 국가 중심에서 벗어나 글로벌 기술 주도권 경쟁의 전장으로 변화하고 있다는 평가다. 서배너 피터슨(Savannah Peterson) 애널리스트는 “과거 미국 중심이던 이 행사가 이제는 세계 각국이 향후 수십 년을 바라보고 인프라를 설계하는 무대로 바뀌고 있다”고 강조했다.

AI 에이전트의 로그, 재학습 기록, 모델 히스토리 등으로 인해 폭증하는 저장 용량도 새로운 과제로 떠올랐다. 맥과이어는 “보건의료 등 규제가 강한 산업에서는 수년에서 수십 년까지 데이터를 보존해야 한다”며 “이 때문에 스토리지 설계와 운영 비용 구조 전반이 뒤바뀌고 있다”고 덧붙였다.

이처럼 인프라 수요는 실제 건설 속도를 앞지르고 있으며, 생산 설비, 인력, 자원 등의 부족이 지속될 경우 공급부족 사태가 장기화될 가능성도 제기된다. 더큐브의 데이브 벨란테(Dave Vellante)는 “지금은 수요가 공급을 한참 초과한 상태기 때문에 아직은 거품이 아니지만, 공급이 수요를 따라잡는 순간이 위험 신호가 될 것”이라고 분석했다.

데이터센터는 이제 단순한 IT 설비를 넘어 국가 전략과 기업 성장의 핵심 자산으로 진화하고 있다. 산업 전반에 걸친 논의는 기존 HPC 개념을 뛰어넘어 AI 중심의 인프라로 재편 중이며, 관련 투자와 기술 전략은 글로벌 차원의 협력과 경쟁으로 확대되고 있다. 데이터센터의 물리적 한계와 AI-driven 스토리지 수요가 기술 업계에 던지는 메시지는 분명하다. 앞으로의 인프라는 단순 확장이 아니라 근본적 혁신을 요구받고 있다.