AI 인프라가 새로운 국면에 접어들면서, 산업 전반이 물리적 한계와 마주하고 있다. 단순한 칩 성능 경쟁을 넘어, 이제는 전력 소비, 냉각 효율, 저장설비 설계 등 기초 시스템 전체를 재정의해야 하는 시대가 도래하고 있는 것이다. 슈퍼컴퓨팅 컨퍼런스 SC25에서 theCUBE 리서치 소속 전문가들은 이를 ‘에이전틱 인프라스트럭처’의 부상으로 지목하며, AI 중심 설계 방식으로 인프라 개념이 근본적으로 전환되고 있다고 강조했다.

존 퓨리어(theCUBE 리서치 수석 애널리스트)는 현재의 ‘AI 인프라’는 칩 밀도와 물리적 설비 한계를 동시에 고려해야 하는 복합적 개념이라며, “AI가 전 산업을 재정의하는 가운데, 데이터센터도 공장처럼 진화하고 있다”고 설명했다. 많은 기업들이 고성능 컴퓨팅을 수용하기 위해 칩 구성뿐 아니라 건물 구조, 전력 설계, 냉각 공학까지 전방위적인 재설계에 착수하고 있다.

잭키 맥과이어(theCUBE 리서치 애널리스트)는 “하드웨어가 다시 주목받고 있지만, 이는 이제 단순한 성능 문제가 아니다”라며 실제로 컴퓨팅 밀도가 높아지면서 냉각 문제는 사후 고려사항이 아닌 핵심 설계 요소로 떠오르고 있다고 분석했다. 특히 액체 냉각 기술은 실험 단계에서 필수 인프라로 진입했으며, GPU, AI 가속기, 네트워크 카드 등 각 부품별로 개별 냉각 시스템을 갖추는 방향으로 진화 중이라는 설명이다.

저장 기술에서도 혁신이 요구되고 있다. 에이전틱 인프라가 실시간 의사결정과 다중 에이전트 모델을 뒷받침하려면, 단순 처리 속도보다 데이터를 얼마나 빠르게 이동·재활용·보존할 수 있는지가 성능을 좌우하게 된다. 이에 따라 KV 캐시 전략과 스토리지 최적화가 차세대 인프라의 핵심 축으로 자리 잡고 있다.

맥과이어는 “스토리지가 더 이상 단순 저장 공간이 아니라 AI 응용의 민첩성을 결정짓는 변수”이라며, 메모리 계층 간 배치 전략은 여전히 해결되지 않은 과제라고 부연했다.

이처럼 에이전틱 인프라는 물리적 현실과 컴퓨팅 기술 간 긴밀한 상호작용 속에서 진화하고 있다. 밀도 조정, 하이브리드 냉각, 모듈형 설계 같은 새로운 접근법은 기존 인프라 구축방식을 근본부터 바꾸고 있으며, 저장·전력·공간이라는 삼위일체 초월이 미래 AI 팩토리의 생존 조건이 되고 있다.

이번 SC25를 통해 전문가들은 AI가 단순 기술이 아닌 인프라 생태계 전체를 재편하는 ‘물리적 혁신’의 시대로 진입했음을 분명히 했다. AI 기술은 이제 소프트웨어를 넘어 하드웨어와 시설 공학의 경계를 무너뜨리며, 물리학이 새로운 병목(Bottleneck)으로 부상한 시점이다.