2.68밀리초 복구, 엔비디아 AI망 병목 겨냥

엔비디아($NVDA)가 AI 데이터센터 네트워크 경쟁의 초점을 스위치 속도에서 트래픽 제어, 장애 복구, 전력 효율로 넓히고 있다. 대규모 GPU를 묶는 AI 팩토리에서 병목이 연산 성능뿐 아니라 네트워크 구조에서도 생긴다는 판단이다.

엔비디아는 8월 24일 기술 블로그에서 스펙트럼-X 이더넷(Spectrum-X Ethernet)이 적응형 라우팅, 표적 혼잡 제어, 플레인 부하 분산 등 3개 하드웨어 제어 루프로 구성된다고 밝혔다. 같은 글에서 멀티플레인 구조는 12만8000개 이상 엔드포인트까지 확장될 수 있고, 장애 전환 시간은 2.68밀리초로 기존 이더넷의 1.08초보다 짧다고 설명했다.

핵심은 AI 학습 트래픽의 성격이다. 일반 데이터센터에는 작고 독립적인 흐름이 많지만, AI 학습은 GPU들이 동시에 데이터를 주고받는 집단 통신에 의존한다. 특정 경로가 막히면 느린 흐름 하나가 전체 작업을 늦출 수 있다.

엔비디아는 이 문제를 스위치와 슈퍼NIC가 함께 판단하는 하드웨어 제어로 줄이겠다는 구상을 제시했다. 소프트웨어 설정만으로 경로를 바꾸는 방식보다 네트워크 장비 안에서 혼잡과 장애를 더 빠르게 감지하고 우회하는 데 초점을 둔 설명이다.

스펙트럼-X 멀티플레인은 하나의 네트워크를 여러 독립 플레인으로 나눠 특정 링크 장애가 전체 작업으로 번지는 범위를 줄이는 방식이다. 엔비디아 기술 블로그의 도식은 루빈(Rubin) GPU 51만2000개, GPU당 1.6Tb/s 스케일아웃 대역폭, 100Tb/s 스위치, 512개의 200Gb/s 포트를 전제로 제시했다. 이 수치는 엔드포인트 수가 아니라 도식상 GPU 규모다.

스펙트럼-X의 의미는 단일 스펙 경쟁보다 AI 팩토리 설계 방식에 있다. 대형 모델 학습과 추론은 GPU, 메모리, 스토리지, 네트워크가 동시에 맞물리는 작업이다. 한 구성요소의 처리 속도가 높아져도 데이터 이동이 따라오지 못하면 전체 효율은 떨어진다.

엔비디아는 같은 날 별도 기술 블로그에서 스케일-인(Scale-In)을 AI 네트워킹의 다섯 번째 축으로 소개했다. 블루필드-4(BlueField-4)는 64코어 그레이스(Grace) CPU, 인라인 가속 엔진, 800Gb/s 네트워크 인터페이스를 갖춘다. 회사는 블루필드-4가 블루필드-3보다 메모리 대역폭은 4배, 네트워크 대역폭은 2배 많다고 밝혔다.

스케일-인은 보안, 스토리지, 관측성, 운영 트래픽을 호스트 CPU에서 떼어내 별도 인프라 처리 영역으로 옮기는 개념이다. AI 서버의 CPU가 모델 실행 외 작업에 빼앗기는 부담을 줄이고, 네트워크와 저장장치 흐름을 더 독립적으로 다루겠다는 접근이다.

광 네트워킹도 같은 흐름에 놓여 있다. 엔비디아는 5월 31일 뉴스룸에서 스펙트럼-X 이더넷 포토닉스(Spectrum-X Ethernet Photonics)가 생산 단계에 들어갔다고 발표했다. 이 기술은 200Gb/s SerDes와 공동 패키지 광학을 결합하며, 기존 트랜시버 기반 네트워크보다 전력 효율 5배, AI 가동 시간 5배, 배포 시간 1.3배 개선을 내세운다.

AI 데이터센터에서는 전력과 냉각, 랙 밀도, 케이블 배치가 장비 선택의 제약으로 작용한다. 광 연결은 전송 거리와 전력 효율을 개선할 수 있지만, 실제 배치 범위와 고객사별 도입 규모는 별도 확인이 필요한 영역이다.

이번 발표 흐름은 본지가 앞서 전한 AI 데이터센터의 저장·전송 병목 대응 흐름과도 맞닿아 있다. 당시 마이크론 테크놀로지(Micron Technology·$MU)와 마이크로칩 테크놀로지(Microchip Technology·$MCHP)는 저장장치와 연결 패브릭을 통해 AI 데이터센터의 전송 병목을 겨냥했다. 엔비디아의 이번 메시지는 같은 병목을 네트워크 제어와 장애 복구 쪽에서 푸는 성격이다.

경쟁 구도는 단순하지 않다. 아리스타(Arista Networks)는 6월 9일 발표문에서 1.6T AI 패브릭 제품군을 공개하며 개방형 이더넷과 공급사 다양성을 강조했다. 브로드컴(Broadcom)도 개방형이고 확장 가능한 AI 네트워킹 접근을 앞세우고 있다.

엔비디아가 GPU와 네트워크를 묶은 풀스택 통합을 내세운다면, 경쟁사들은 표준 이더넷 기반의 다중 공급망을 대안으로 제시하는 구조다. 클라우드 사업자와 대형 데이터센터 운영자는 성능뿐 아니라 장비 조달, 운영 도구, 공급사 종속 가능성을 함께 따질 수밖에 없다.

암호화폐 시장과의 직접 연결은 제한적이다. 엔비디아 토큰화 주식이나 AI 인프라 관련 수요가 시장 관심을 받을 수는 있지만, 이번 자료만으로 특정 토큰이나 주식형 토큰의 수요 증가를 단정하기는 어렵다. 이 사안의 중심은 블록체인보다 AI 데이터센터와 반도체 인프라 경쟁이다.

이번 사안은 새 제품 한 건의 발표라기보다 AI 팩토리 병목을 어디에서 풀 것인지에 대한 기술 경쟁을 보여준다. 엔비디아가 제시한 수치는 공식 문서 기준의 성능과 구조 설명이며, 아리스타와 브로드컴은 표준 이더넷 생태계를 앞세워 별도 해법을 제시하고 있다.