AI 추론 용량 증가분 74%, 엔비디아 블랙웰 기여 추정

| 김하린 기자

엔비디아($NVDA)의 블랙웰과 블랙웰 울트라 계열이 2025년 2분기부터 2026년 2분기까지 새로 늘어난 AI 에이전트 추론 용량의 74%를 차지한 것으로 추정됐다. 이는 칩 판매 추정치와 정해진 작업 조건에서 동시에 처리할 수 있는 요청 수를 결합해 산출한 비중이다.

에포크AI(Epoch AI)는 18일 공개한 분석에서 같은 기간 누적 판매된 AI 칩의 추론 용량이 4.6배로 늘었다고 밝혔다. 같은 칩의 최대 8비트 연산 능력은 2.6배 증가했으며, 두 배수 모두 2025년 2분기를 기준으로 계산했다.

74%는 블랙웰 계열이 전체 추론 용량에서 차지한 비중이 아니라 1년 사이 새로 늘어난 용량에 대한 기여도다. 2026년 2분기 누적 추론 용량에서 블랙웰과 블랙웰 울트라의 비중은 약 73%였고, 최대 8비트 연산 능력에서의 비중은 50%였다.

에포크AI는 9일 발표한 추론성능지수(Inference Performance Index) 보고서에서 GB300의 칩당 AI 에이전트 요청 처리 용량이 H100의 약 25배, H200의 약 8배라고 추산했다. 반면 GB300의 초당 최대 8비트 연산량은 H100의 약 2.5배다.

이 비교는 GB300이 모든 AI 작업에서 H100보다 25배 빠르다는 뜻이 아니다. 보고서는 고정된 작업 조건에서 대표 모델 4종을 대상으로 각 칩이 동시에 처리할 수 있는 요청 수를 계산했다.

AI 에이전트 작업은 앞선 대화나 작업 기록을 이어서 활용할 수 있어 처리 용량을 비교할 때 긴 문맥을 포함한 조건이 중요하다. 보고서는 이런 문맥을 재사용하는 작업을 기준으로 삼았다.

요청마다 필요한 출력 속도도 초당 50~400토큰 범위에서 달리 적용했다. 토큰은 AI 모델이 글을 처리하거나 생성할 때 사용하는 단위다.

이 작업에서는 연산 속도뿐 아니라 메모리에 기록을 얼마나 담을 수 있는지, 데이터를 얼마나 빨리 읽는지, 여러 칩 사이에서 얼마나 빠르게 주고받는지도 동시 처리량에 영향을 준다. 따라서 최대 연산 능력만으로 추론 용량을 비교하기는 어렵다.

보고서는 GB300을 GPU 72개가 고속으로 연결된 시스템에서 평가했다. 결과는 칩 하나의 사양만이 아니라 연결 구성을 포함한 작업 환경에 좌우된다.

같은 블랙웰 울트라 계열이라도 연결 방식이 다른 B300 시스템과 비교하면 칩당 추론 용량 추정치가 약 1.9배 차이 났다. GPU 구성에 따라 같은 계열 칩의 추론 성능 평가도 달라질 수 있다는 의미다.

블랙웰 기반 연산 용량은 기업 간 공급 계약에도 등장했다. 토큰포스트는 앞서 코르벡스(Corvex)가 AI 추론 플랫폼에 블랙웰 기반 연산 용량을 공급하는 계약을 발표했다고 보도했다.

전체 추론 용량은 칩 종류별 판매량 추정치에 칩당 추론성능지수 점수를 적용해 합산했다. 모든 분기에 같은 작업 묶음을 적용해 용량을 비교했다.

누적 용량의 4.6배 증가는 1년 동안 새로 판매된 칩의 기여분만을 뜻하지 않는다. 참고로 2026년 2분기에 판매된 칩이 더한 추론 용량은 2025년 2분기 판매분의 3.3배로 산출됐다.

계산에는 시스템 구성에 대한 가정도 들어갔다. 에포크AI는 일부 칩의 구성을 GB/NVL72 랙 시스템 60%, B/HGX 서버 40%로 나눠 계산했으며 소프트웨어 효율 차이는 반영하지 않았다.

판매량과 하드웨어 구성의 불확실성을 반영한 1년간 추론 용량 증가 범위는 4.2~5.1배였다. 에포크AI는 이 범위가 판매량과 구성 가정의 불확실성을 다루며, 모델링한 칩 성능 자체의 불확실성까지 포함하지는 않는다고 설명했다.

따라서 74%와 4.6배는 실제 모든 데이터센터의 처리 실적이 아니라, 판매량 추정치와 정해진 AI 에이전트 작업 조건을 적용한 용량 비교다.

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

Most Popular

지금 꼭 알아야 할 리포트