젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO가 AI 에이전트를 명확히 정한 경계 안에서 자유롭게 가치 있는 작업을 하도록 하는 'OpenShell'을 만들었다고 21일 밝혔다. 같은 발표에서 황 CEO는 DSX가 2기가와트(GW) 규모에서 냉각 용수 사용량을 거의 0에 가깝게 낮출 수 있고, DSX MaxLPS는 토큰 하나당 전력 소비를 최대 30% 줄일 수 있다고 소개했다.
OpenShell은 참조 아키텍처다. 기업 인프라와 엣지 시스템에서 안전한 에이전트를 구축하고, 제어하고, 관찰하고, 실행하도록 지원한다고 PANews가 전했다. 엣지 시스템은 중앙 서버가 아니라 현장 가까이에서 데이터를 처리하는 시스템을 말한다.
AI 에이전트는 사용자의 단계별 지시 없이 스스로 작업을 수행하는 소프트웨어를 가리킨다. 황 CEO는 앞서 런던에서 포춘(Fortune)과 만나 AI 에이전트를 안전한 컨테이너에서 실행하고 작업에 필요한 최소 권한만 부여해야 한다고 말한 바 있다. 이번 OpenShell은 허용된 범위를 먼저 정하고 그 안에서 에이전트를 움직이게 한다는 같은 방향의 구상이다.
토큰은 AI 모델이 텍스트를 처리하는 기본 단위로, 토큰당 전력은 AI 서비스 운영비와 직결되는 지표다. 모건스탠리(Morgan Stanley)는 3월 17일 공개한 콘퍼런스 요약에서 황 CEO가 에이전틱 AI는 일반적인 생성형 AI 프롬프트보다 최대 100만 배 많은 토큰을 소비할 수 있다고 설명했다고 전했다. 에이전트 사용이 늘수록 전력 효율 수치가 중요해지는 구조다.
30%는 '최대' 수치다. PANews가 전한 내용에는 어떤 조건과 비교 대상에서 나온 값인지가 담기지 않았다. 냉각 용수 '거의 0'과 토큰당 전력 절감 모두 엔비디아가 내놓은 수치여서 실제 데이터센터 운영 환경에서의 효과는 별도 검증이 필요하다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사