엔비디아 그록 3 엘피엑스 생산 확인, 하반기 공급

엔비디아($NVDA)가 인공지능(AI) 추론 가속기 그록 3 엘피엑스(Groq 3 LPX)를 베라 루빈(Vera Rubin) 플랫폼의 저지연 처리 장비로 제시했다. 랙 1개 기준 LPU 256개와 온칩 SRAM 128GB를 갖춘 구조다.

엔비디아는 3월 16일 보도자료에서 베라 루빈 플랫폼을 구성하는 7개 칩이 생산 단계에 들어갔다고 밝혔다. 구성품은 베라 CPU, 루빈 GPU, NVLink 6 스위치, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 이더넷 스위치, 그록 3 LPU다.

그록 3 엘피엑스는 학습보다 추론에 초점을 맞춘 장비다. 추론은 AI 모델이 입력을 받은 뒤 답변을 만들어 내는 과정으로, 챗봇과 에이전트형 AI 서비스에서는 응답 지연과 전력 효율이 핵심 성능 지표로 꼽힌다.

엔비디아가 공개한 그록 3 엘피엑스 랙은 32개의 액체냉각 1U 컴퓨트 트레이로 구성된다. 각 트레이에는 LPU 8개가 들어가며, 랙 전체로는 LPU 256개가 배치된다.

회사 측 설명에서 각 LPU는 500MB SRAM과 150TB/s SRAM 대역폭을 제공한다. 랙 단위 사양으로는 온칩 SRAM 128GB, SRAM 대역폭 40PB/s, 스케일업 대역폭 640TB/s, FP8 연산 성능 315PFLOPS가 제시됐다.

엔비디아는 기술 블로그에서 베라 루빈 NVL72가 대규모 모델의 입력 처리와 어텐션 연산을 맡고, 그록 3 엘피엑스가 출력 생성 과정의 지연 민감 구간을 보완한다고 설명했다. 두 장비를 함께 쓰면 조 단위 매개변수 모델에서 메가와트당 추론 처리량을 최대 35배 높일 수 있다는 것이 엔비디아의 제시 수치다.

이 수치는 엔비디아가 공개한 성능 지표이며 실제 데이터센터 환경에서는 모델 구조, 전력 조건, 네트워크 구성, 냉각 설계에 따라 달라질 수 있다. AI 인프라 성능 경쟁이 단일 칩 성능에서 랙 단위 시스템 설계로 옮겨가는 흐름을 보여준다.

중국권 보도에서는 그록 3 엘피엑스의 출력 속도가 초당 3400개 토큰이라고 전했지만, 엔비디아 보도자료와 기술 블로그의 주요 표에는 이 수치가 직접 제시되지 않았다. 기사 중심은 확인된 랙 단위 사양과 생산·공급 일정에 두는 것이 적절하다.

그록 3 엘피엑스가 주목받는 이유는 AI 서비스 비용 구조와 맞닿아 있다. 대규모 모델을 운영하는 기업은 학습에 필요한 연산 자원뿐 아니라 이용자 요청을 실시간으로 처리하는 추론 비용을 줄여야 한다.

통상 AI 데이터센터에서는 GPU, CPU, 네트워크 장비, 메모리, 냉각 설비가 하나의 시스템으로 맞물린다. 추론 단계에서 병목이 생기면 고가의 연산 장비를 충분히 활용하지 못하고, 전력과 데이터 이동 비용도 커진다.

엔비디아의 전략도 이 지점에 맞춰져 있다. 엔비디아가 그록 칩 제조와 고객 공급을 서두르고 있다는 앞선 보도처럼, 저지연 추론 인프라는 AI 팩토리 구축 경쟁의 한 축으로 자리 잡고 있다.

다만 중국향 LPU 공급 문제는 별개로 봐야 한다. 엔비디아는 앞서 중국 시장에서 LPU를 판매하지 않고 중국 전용 LPU 제품도 로드맵에 없다고 밝혔다.

젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)는 GTC 2026 기조연설에서 그록 칩이 생산 중이며 하반기, 대략 3분기 출하를 언급했다. 엔비디아는 그록 3 엘피엑스가 올해 하반기 베라 루빈 AI 팩토리에 적용될 수 있다고 설명했다.

한국 시장에서는 메모리, 서버, 네트워크, 냉각 부품 공급망과의 연결 여부가 관전 지점이다. 실제 영향은 그록 3 엘피엑스의 출하 규모와 고객 도입 속도가 확인된 뒤 판단할 수 있다.