구글에서 선호하는 출처로 추가

엔비디아, 베라 CPU를 단일 칩으로 설계해 AI 에이전트 겨냥

엔비디아는 코드 실행과 도구 호출처럼 순차 처리가 필요한 AI 에이전트 작업을 겨냥해 베라 CPU를 단일 실리콘 다이 구조로 설계했다. 성능 수치는 작업 종류와 측정 조건에 따라 차이가 난다.

토포AI로 이 기사 더 깊이 읽기

단일 실리콘 다이가 드러난 프로세서 / TokenPost.ai

인공지능(AI) 에이전트가 코드를 실행하고 도구를 호출하는 과정에서 중앙처리장치(CPU)의 단일 코어 성능과 지연 시간이 중요해지고 있다. 엔비디아($NVDA)는 이런 작업을 겨냥해 베라 CPU를 단일 실리콘 다이 구조로 설계했다고 밝혔다.

엔비디아 베라 팀은 Wccftech 인터뷰에서 클라우드 시대에는 처리량을 높이기 위해 코어 수를 늘리는 데 집중했지만, AI 에이전트는 순차 작업이 많아 단일 코어 성능이 중요해졌다고 설명했다. 인터뷰는 10월 18일 공개됐다. 에이전트가 GPU에 연산을 맡기기 전후로 코드 실행과 데이터 처리를 하는 만큼, CPU 작업이 늦어지면 GPU가 다음 작업을 기다릴 수 있다는 설명이다.

베라의 설계 방향은 단일 실리콘 다이에 코어를 배치하는 '모놀리식' 구조다. 칩렛 여러 개를 연결하는 방식과 달리 코어 간 통신이 입출력 경계를 넘지 않도록 해 지연을 줄이는 데 초점을 맞췄다. 엔비디아는 기술 블로그에서 베라가 88개 올림푸스 코어를 공유 캐시와 메모리 시스템에 연결하며, 코어 간 양방향 대역폭으로 초당 최대 3.4TB를 제공한다고 밝혔다.

성능 비교 수치는 측정 조건을 구분해 볼 필요가 있다. 베라 팀은 인터뷰에서 베라가 전작 그레이스보다 1.5배 빠르고, 파이썬 스크립트와 코드 컴파일 같은 에이전트 작업에서는 최고급 x86 프로세서보다 최대 2배 빠르다고 주장했다. 엔비디아 기술 블로그는 컴파일러와 스크립팅 도구, 런타임, 에이전트 도구 호출 등을 포함한 전체 소켓 부하 조건에서 경쟁 x86 플랫폼 대비 샌드박스 성능이 최대 1.5배라고 제시했다. 작업과 측정 조건이 달라 두 수치를 같은 기준으로 비교할 수는 없다.

베라에는 작업 실행 스레드와 입출력 스레드에 자원을 나누는 '공간 멀티스레딩'도 적용됐다. Wccftech 인터뷰는 Phoronix 테스트에서 약 20% 성능 향상이 확인됐다고 전했지만, 구체적인 시험 조건은 엔비디아 기술 블로그에 제시되지 않았다. 성능을 비교할 때는 작업 종류와 부하 조건을 함께 살펴야 한다.

AI 에이전트는 답변을 생성하는 데 그치지 않고 코드를 실행하거나 외부 도구를 호출한다. 이런 과정에서는 GPU 연산 사이에 CPU가 맡는 순차 작업이 생긴다. [앞서 스페이스엑스AI가 베라 CPU로 그록 인프라를 확장한다고 전한 보도에서도](https://www.tokenpost.kr/news/cryptocurrency/397267 GPU는 대형 모델 연산을, CPU는 도구 호출과 코드 실행 등을 맡는 구조가 소개됐다.

엔비디아는 기술 블로그에서 베라가 강화학습 후처리와 에이전트 추론에서 CPU 작업 시간을 줄이도록 설계됐다고 설명했다. 실제 서비스에서의 처리량과 지연 시간은 작업 구성과 배치 환경에 따라 달라질 수 있다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기