엔비디아 젠슨 황 “AI 컴퓨트, 테스트로 확장”

인공지능(AI) 데이터센터에서 프런티어 모델을 테스트하는 수요가 학습과 추론에 이은 새로운 AI 컴퓨트 축으로 거론됐다. 모델 검증과 개선에 대규모 연산 자원이 투입되면 GPU와 네트워크, 전력·냉각 설비 수요에도 영향을 줄 수 있다는 설명이다.

젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO는 최근 CNBC 인터뷰에서 대규모 데이터센터가 프런티어 모델을 시험하는 과정에서 추가적인 AI 컴퓨트 수요가 발생할 수 있다고 말했다. 황 CEO는 AI 컴퓨트 수요를 학습과 추론, 테스트 등 세 가지 축으로 나눠 설명했다.

학습은 모델이 데이터를 바탕으로 성능을 높이는 과정이고, 추론은 완성된 모델이 이용자의 요청에 답하는 단계다. 테스트는 모델의 성능과 안정성을 점검하고 개선하는 과정으로, 서비스 투입 전 반복적인 검증에 해당한다.

프런티어 모델은 AI 성능의 한계를 시험하는 최신 모델을 뜻한다. 모델 개발이 끝난 뒤에도 여러 조건에서 결과를 비교하고 오류를 수정하는 작업이 이어질 수 있어 별도의 연산 자원이 필요하다.

데이터센터가 이런 검증 작업을 대규모로 수행하면 GPU 사용량뿐 아니라 모델 간 데이터를 주고받는 네트워크, 전력 공급, 냉각 시스템 수요도 함께 늘어날 수 있다. 다만 테스트 수요가 어느 규모의 설비 투자로 이어질지는 아직 정해지지 않았다.

엔비디아의 최근 실적은 데이터센터 사업의 비중 확대를 보여준다. 엔비디아는 8월 26일 실적 발표에서 2027회계연도 2분기 데이터센터 매출이 890억달러(약 12조1930억원)로 전년 동기보다 117% 증가했다고 밝혔다.

엔비디아의 데이터센터 매출이 전체 실적의 중심으로 커졌다는 앞선 분석처럼 AI 학습·추론 인프라가 회사 성장의 핵심 축으로 자리 잡은 가운데 테스트 수요가 새로운 사용처로 제시됐다.

같은 기간 엔비디아의 전체 매출은 962억2100만달러(약 13조1822억원)로 전년 동기보다 106% 늘었다. 데이터센터 매출 증가율이 전체 매출 증가율을 웃돌면서 AI 인프라 사업의 비중 확대가 이어졌다.

이번 발언은 AI 인프라 수요가 모델 출시나 서비스 운영에만 한정되지 않을 수 있다는 점을 짚었다. 프런티어 모델을 평가하고 수정하는 과정이 반복되면 데이터센터의 사용 방식도 학습·추론 중심에서 테스트까지 넓어질 수 있다는 의미다.

다만 황 CEO의 진단만으로 테스트 수요가 엔비디아의 추가 주문이나 매출로 전환된다고 단정할 수는 없다. 데이터센터 증설에는 GPU 외에도 전력 공급, 네트워크 구축, 냉각 시스템, 운영 비용이 함께 필요하다.

엔비디아는 실적 발표에서 2027회계연도 3분기 매출을 1080억달러(약 14조7960억원), 오차 범위 ±2%로 전망했다. 엔비디아는 AI 컴퓨트 수요가 매출로 이어지고 있으며 수요가 가속화하고 있다고 실적 발표에서 밝혔다.

이 전망은 엔비디아가 제시한 전체 가이던스로, 프런티어 모델 테스트 수요만을 반영한 수치는 아니다. 테스트 수요가 실적에 별도 항목으로 나타나는지 여부도 현재로서는 확인되지 않았다.

엔비디아는 AI 인프라 확대를 위한 GPU와 데이터센터 플랫폼을 공급하고 있다. 프런티어 모델 개발 기업과 클라우드 사업자가 학습·추론·테스트를 위해 어떤 규모의 설비를 확보할지에 따라 컴퓨트 수요의 구성도 달라질 수 있다.

앞선 엔비디아 데이터센터 매출 증가와 투자 회수 기간을 둘러싼 논쟁처럼 앞으로는 AI 인프라 지출이 실제 서비스 매출과 주문으로 얼마나 연결되는지가 핵심 확인 대상이 될 전망이다.

테스트용 데이터센터 확대가 실제 주문과 매출 증가로 이어지는지는 기업들의 설비 투자와 엔비디아의 향후 실적·가이던스에서 확인될 예정이다.