엔비디아, 기업용 1200억 매개변수 모델 공개

엔비디아($NVDA)가 상시 가동형 AI 에이전트와 엣지 컴퓨팅용 오픈웨이트 모델을 공개했다. 기업용 대형 모델 1종과 AI PC에서 직접 실행하는 경량 모델 2종이다. 오픈웨이트 모델은 가중치를 공개해 내려받아 자체 인프라에서 실행하고 추가 학습할 수 있는 AI 모델이다.

대형 모델은 네모트론 3.5 슈퍼 VL이다. 매개변수는 1200억 개로 기업용 에이전트를 겨냥했다. 네모트론 3 Ultra보다 매개변수는 적지만 지시 수행과 도구 사용 과제에서는 비슷한 정확도를 낼 수 있다고 엔비디아는 설명했다.

엔비디아는 슈퍼 VL을 특정 에이전트 과제에 맞춰 추가 학습하면 앤트로픽과 오픈AI의 경쟁 모델(Opus 5, GPT 6.1 Sol, Luna, Astra)보다 작업을 빠르게 마친다고 주장했다. 해당 과제는 문서 인텔리전스, 재무 회계, 과학 실험, 의료보험 청구, 보안 공격 대응이다. 엔비디아는 슈퍼 VL을 사용하는 기업으로 스카이댄스, EY, 램프, 크라우드스트라이크($CRWD), 퍼플렉시티, 세일즈포스($CRM)를 꼽았다.

카리 브리스키(Kari Briski) 엔비디아 오픈 모델·소프트웨어 부사장은 블로그 글에서 “엔비디아 인프라에서 에이전트를 돌리려는 조직은 이제 성능과 배포 용이성 중 하나를 고르지 않고 각자의 구간에 맞는 최적화된 오픈 모델을 쓸 수 있다”고 밝혔다. 그는 “폐쇄형 프런티어 모델과 달리 슈퍼 VL은 자체 데이터로 추가 학습하고 자체 인프라에 배포해 결과물을 소유할 수 있다”고도 말했다. 데이터센터를 운영하는 기업이 모델과 결과물을 직접 관리할 수 있다는 설명이다.

경량 모델은 Bolt 2종이다. RTX Spark 칩을 탑재한 신형 AI PC와 DGX Spark 워크스테이션에서 로컬로 실행하도록 설계됐다. 소비자와 개발자, 기업 지식 노동자를 겨냥한 PC는 마이크로소프트($MSFT)와 델 등 파트너를 통해 시장에 공급되고 있다. 엔비디아는 앞서 네모트론 3.5를 공개한 바 있다.

네모트론 3.5 Bolt 74B-A9B 24GB는 매개변수 740억 개의 로컬 에이전트용 모델이다. 속도와 추론의 균형을 맞춰 다단계 추론, 도구 호출, 웹 브라우징을 처리하도록 설계됐다. 가장 작은 Bolt E4B는 대화형 에이전트용이다. 브리스키 부사장은 PC 사용자가 “일상적인 프로젝트를 클라우드로 보내지 않고도 위임할 수 있다”고 말했다.

테크크런치는 이번 발표의 배경으로 두 가지를 짚었다. 엔비디아의 고객이자 투자 대상인 프런티어 AI 기업들이 AWS의 트레이니엄, 세레브라스, 자체 개발 칩 등 엔비디아 외의 칩으로 눈을 돌리고 있다는 점이다. 또 개인정보를 우려하는 소비자는 가족·건강·금융 정보에 접근하는 에이전트 도입을 꺼릴 수 있다고 전했다. 로컬 실행 모델은 이런 우려를 겨냥한 접근이라고 테크크런치는 설명했다.

슈퍼 VL과 Bolt 74B-A9B는 이용할 수 있으며 Bolt E4B는 이달 중 출시될 예정이라고 엔비디아는 밝혔다.