와트당 에이전트 1.6배…엔비디아, 베라 CPU 성능 주장

엔비디아는 베라 CPU가 가장 빠른 x86 CPU보다 와트당 AI 에이전트 처리량이 1.6배, 전력 효율이 가장 높은 x86 CPU보다 작업 속도가 2배라고 밝혔다.

엔비디아($NVDA)는 5일 회사 블로그에서 100MW 데이터센터를 기준으로 두 수치를 제시했다. 비교 대상 CPU의 모델명과 상세 시험 조건은 공개하지 않았다.

두 수치는 서로 다른 비교군을 사용했다. 따라서 이를 모든 x86 CPU에 대한 동일한 성능 우위로 해석하기는 어렵다.

베라 CPU는 맞춤형 올림푸스 코어 88개와 최대 초당 1.2TB의 LPDDR5X 메모리 대역폭을 갖췄다. 엔비디아는 AI 에이전트가 GPU 추론 사이에 코드를 실행하고 도구를 호출하며 데이터를 검색·처리하는 데 중앙처리장치(CPU)가 쓰인다고 설명했다.

본지는 앞서 베라 서버의 파이벤치 평균 시험 시간이 EPYC 9755 서버보다 4% 짧았다고 보도했다. 당시 결과는 코어 수와 메모리 구성이 다른 두 서버를 비교한 것으로, 이번 발표는 파이벤치 실행시간 대신 에이전트 작업 속도와 와트당 처리량을 다뤘다.

◇ 에이전트 작업 시험은 비교 조건 달라

DeepInfra는 자체 에이전트 작업을 재생해 베라와 AMD($AMD) 젠5, 인텔($INTC) 그래나이트래피즈·사파이어래피즈를 비교했다. 물리 코어를 20개로 제한한 시험에서 runc 기준 코어당 조율 작업 단계 지연시간은 베라 29밀리초, 사파이어래피즈 64밀리초, 젠5 35밀리초였다.

이 시험에서 베라와 사파이어래피즈의 차이는 2.2배, 젠5와의 차이는 1.2배였다. 엔비디아 블로그는 2.2배를 ‘최고 x86 프로세서’와 비교한 수치로 소개했지만, DeepInfra 시험표에서 2.2배의 비교 대상은 사파이어래피즈였다.

DeepInfra는 99백분위 지연시간 6초 이하, 오류 0건을 기준으로 한 마이크로VM 시험에서도 베라가 동시 에이전트 256개를 유지했다고 밝혔다. x86 비교 시스템은 160~192개를 유지했다. 이는 DeepInfra가 정한 작업 구성과 기준에 따른 자체 측정이다.

Modal은 네트워크 호출을 제외한 Terminal-Bench 작업 50개를 미리 준비한 Docker 컨테이너에서 실행했다. 회사는 높은 부하에서 베라의 처리량이 비교한 Granite Rapids 기반 x86 시스템보다 최대 2배였다고 밝혔다.

엔비디아 블로그는 Modal의 결과를 코어당 처리량 비교로 소개했다. 무부하 개별 작업 지연시간 시험에서는 작업에 따라 베라가 앞서지 않았다.

Modal은 Arm 지원을 위해 기존 인프라와 이미지 빌드 시스템을 바꿔야 한다고 설명했다. 성능 수치 외에도 운영 환경의 전환이 도입 조건에 포함될 수 있다는 뜻이다.

◇ 일반 CPU 처리량 시험은 별도 기준

AMD는 6세대 EPYC 96코어 고주파 모델이 베라 플랫폼보다 코어당 1.2배 높은 성능을 냈다고 밝혔다. 플랫폼 전체 처리량 비교에서는 2소켓 EPYC 9996이 베라보다 2.24배 높았다는 내부 추정치를 제시했다.

AMD는 두 수치가 2026년 7월 22일 기준 내부 추정치이며 바뀔 수 있다고 밝혔다. 이 비교는 SPEC CPU 2026 정수 처리량을 기준으로 해 에이전트 샌드박스 작업 시험과는 측정 대상이 다르다.

톰스하드웨어(Tom’s Hardware)는 자체 SPEC CPU 2026 시험에서 베라의 전체 정수 처리량이 EPYC 9755보다 1.5% 높았다고 보도했다. 이 수치는 정식 SPEC 제출 결과가 아닌 추정치이며, 에이전트 전용 작업을 측정한 결과도 아니다.

엔비디아와 파트너사, 경쟁사가 제시한 수치는 에이전트 단계 지연시간, 동시 에이전트 수, 컨테이너 처리량, 정수 처리량 등 서로 다른 지표를 다룬다. 각 비교의 작업 구성과 기준 시스템을 함께 봐야 성능 차이를 해석할 수 있다.