급격히 증가하는 인공지능(AI) 워크로드에 대응하기 위해 전 세계 주요 기업들이 디지털 인프라를 전면적으로 재구축하고 있다. 이들은 시스템 통합을 강화하고 플랫폼 설계를 재고하며, 더 많은 데이터를 빠르게 처리하기 위한 인프라의 전략적 재편에 몰두하고 있다.

슈퍼마이크로컴퓨터(SMCI)의 기술 및 AI 부문 총괄 부사장이자 EMEA지역 대표를 맡고 있는 빅 말야라(Vik Malyala)는 최근 미국에서 열린 SC25 행사에 참석해 “AI 배포 환경이 빠르게 변화함에 따라, 우리가 제품을 사내에서 직접 설계·생산한다는 점이 유연한 대응에 큰 도움을 주고 있다”고 밝혔다. 그는 이어 “기업, 클라우드, 고성능 컴퓨팅(HPC) 등 각 산업군에 적합한 맞춤형 플랫폼 개발이 이제 경쟁력의 핵심”이라고 강조했다.

기업들은 특히 고밀도 모듈형 시스템 구축에 속도를 내고 있다. 이 같은 방식은 유연한 확장성과 비용 효율성을 모두 확보할 수 있다는 점에서 AI 시대의 이상적인 인프라 패러다임으로 부상 중이다. 말야라는 “네트워크 비용을 줄이고 전반적인 성능을 극대화하려면 각 노드들이 물리적으로 가까이 배치돼야 한다”며 “인텔과 손잡고 업계 최초로 ‘트윈 플랫폼’을 출시한 것도 이 같은 전략의 일환”이라고 설명했다.

AI 인프라 고도화의 또 다른 핵심축은 ‘개방형 표준’이다. 슈퍼마이크로는 19인치 랙 디자인 등 산업 표준을 적극 수용하며 유수의 파트너들과 협업 체계를 공고히 다지고 있다. 말야라는 “최고 성능과 복원력을 지향하는 누구와도 협력 중이며, 다양한 산업 표준을 조기에 채택해 고객들에게 더 넓은 선택지를 제공하고 있다”고 말했다.

가속기 시장의 다양화도 주요 변수로 부상하고 있다. GPU 활용 효율성을 극대화하려는 시도가 확산되면서, 기업들은 자원 낭비를 줄이고 비용 대비 가치를 높이기 위한 방안을 모색하고 있다. 말야라는 “초기에는 AI 모델 학습 중심의 워크로드가 GPU와 네트워크, 스토리지에 과부하를 주는 수준이었지만, 이제는 이기종 자원을 어떻게 효율적으로 활용하느냐가 핵심 과제”라고 진단했다.

AI 인프라 전환 속도가 점점 빨라지는 가운데, 기업들은 기술 생태계 전체와의 협업을 통해 새로운 플랫폼 전략을 만들어가고 있다. 말야라는 “AI 시대는 단독 플레이로는 살아남기 어렵다”며 “협력과 개방이야말로 차세대 인프라 전략의 근간이 될 것”이라고 말했다.