AI 기술의 폭발적인 확산 속에서 기업의 네트워크 인프라가 한계에 직면하고 있다. 시스코(CSCO)의 네트워크 담당 부사장들이 참여한 '네트워킹 포 AI 서밋 2025(Networking for AI Summit 2025)'에서 전문가들은 GPU 기반 워크로드의 급증으로 인해 기존 데이터센터와 네트워크 설계 방식이 더 이상 대응할 수 없는 상황임을 강조했다.
시스코의 데이터센터 네트워킹 제품 관리 부사장 무랄리 간들루루(Murali Gandluru)는 기업들이 점점 더 많은 AI 워크로드를 처리하면서 전력, 냉각, 그리고 운영 복잡성 등의 문제에 직면하고 있다고 설명했다. 그는 “기존 네트워크는 GPU 간 통신에 최적화되어 설계되지 않았다”며 “초기 AI 도입 기업들이 가장 먼저 인프라 확장성과 복잡성에서 큰 부담을 겪고 있다”고 말했다.
같은 자리에서 시스코 무선 네트워크 제품 담당 부사장 매슈 랜드리(Matthew Landry)는 현재 트래픽 패턴의 변화에 주목해야 한다고 지적했다. 예전에는 이용자가 정적 웹페이지를 로드하거나 간헐적 데이터를 소화하던 데 비해, 이제는 AI 에이전트가 실시간으로 연산과 데이터를 주고받으며 네트워크의 지연 민감도와 대역폭 수요가 크게 증가했다는 것이다. 랜드리는 “이전에는 네트워크 사용자 대부분이 사람이었지만, 이제는 자율적으로 작동하는 기계가 사용자로 인식될 만큼 중요한 비중을 차지한다”고 강조했다.
AI 네트워킹의 전환은 단순한 기술 업그레이드를 넘어, 운영 방식 전반에 걸친 혁신을 요구하고 있다. 간들루루는 “혼합형 워크로드 환경에서 CPU-스토리지, CPU-CPU, GPU-GPU 간 통신을 목적에 따라 우선순위로 처리해야 하며, 이를 위한 자동화와 가시성 확보가 필수”라고 말했다. 특히 네트워크 전반의 문제를 해석하고 대응하는 역량 확보가 운영팀의 핵심 과제로 떠올랐다.
시스코는 이러한 변화에 대응하기 위해 AI 기반 네트워크 운영, 그리고 GPU 클러스터 최적화 도구 등을 지속 개발 중이다. 간들루루는 일부 선도 고객들이 이미 GPU 네트워크의 설계 및 운용에 대한 공통된 가시성과 실행 체계를 적용하고 있으며, 이는 AI 전환의 촉매로 작용하고 있다고 밝혔다.
AI 기술이 데이터센터를 넘어 엣지 환경까지 퍼지는 상황에서 기업들은 단순히 ‘AI를 활용한 네트워크(AI for Networking)’가 아니라, ‘AI 워크로드에 대비한 네트워크(Networking for AI)’ 설계를 병행해야 한다는 게 시스코의 전략적 시각이다. 이러한 이중적 접근은 AI 도입의 확산 속도에 맞춘 지속 가능한 디지털 인프라의 핵심이 될 것으로 보인다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>