구글에서 선호하는 출처로 추가

엔비디아($NVDA) NVL72 레시피 4개 공개…현행 검증 증거 1개

엔비디아가 베라 루빈 NVL72 실물 랙의 베어메탈 RKE2 환경을 대상으로 프리뷰 레시피 4개를 공개했다. 현재 레시피와 검증 증거가 일치하는 경로는 Kubeflow Trainer 학습 1개다.

토포AI로 이 기사 더 깊이 읽기

데이터센터에 설치된 고밀도 GPU 컴퓨팅 캐비닛 / TokenPost.ai (mono)

엔비디아(NVIDIA·$NVDA)가 AI 클러스터 런타임(AI Cluster Runtime·AICR)을 이용한 베라 루빈(Vera Rubin) NVL72용 쿠버네티스 설정 레시피 4개를 공개했다. 적용 대상은 물리 서버에서 구동하는 베어메탈 RKE2 클러스터다.

엔비디아의 공식 설정 문서에는 일반 학습, Kubeflow Trainer 학습, 일반 추론, Dynamo 추론 경로가 올라와 있다. 네 경로 모두 베라 루빈 NVL72 실물 랙을 대상으로 한다.

이번 레시피는 프리뷰 단계다. 클라우드 사업자가 관리하는 쿠버네티스 환경은 대상에 포함되지 않는다.

네 경로 모두 검증 증거가 게시됐지만, 현재 배포되는 레시피와 증거가 일치하는 경로는 Kubeflow Trainer 학습 하나다. 해당 증거는 현행 구성으로 3단계 검증을 거쳐 게시됐다.

일반 학습과 추론, Dynamo 추론 경로의 증거는 이전 레시피를 기준으로 한다. 따라서 현재 구성을 검증한 결과로 볼 수 없다.

엔비디아는 레시피 개발 문서에서 프리뷰가 정식 지원에 필요한 전체 운영 지원과 수명주기 검증을 갖춘 단계는 아니라고 설명한다. 업그레이드나 운영 전반에 걸친 지원을 약속하는 정식 운영 단계와는 구분된다.

AICR은 기존 클러스터의 운영체제·커널·GPU 상태를 스냅샷으로 수집한다. 수집한 상태를 바탕으로 구성요소 버전을 고정한 레시피와 배포 번들을 만들고, 설치 환경이 레시피 조건을 충족하는지 검사한다.

배포 번들은 Helm, Argo CD, Flux, Helmfile 등 기존 도구로 적용한다. AICR이 클러스터를 새로 설치하거나 물리 서버를 관리하는 것은 아니다.

엔비디아는 10월 6일 AICR v1.0을 공개하며 명령줄 도구, REST API, Go SDK와 배포 번들의 호환성 규칙을 제시했다. 이번 프리뷰 레시피는 이 런타임을 이용해 베라 루빈 실물 랙의 특정 구성을 설정하고 검증하는 사례다.

앞서 본지는 AICR을 활용한 Dynamo 배포·검증 절차를 다뤘다. 당시 소개한 아마존 EKS 레시피는 GB200·GB300 NVL72를 대상으로 했고, 이번 안내는 베라 루빈 NVL72의 베어메탈 RKE2 환경에 한정된다.

네 경로의 공통 전제는 Ubuntu 26.04와 베라에 맞춘 64K 페이지 커널이다. GPU 노드의 커널 설정을 바꾸는 과정에서 노드가 재부팅된다.

호스트에서 실행되는 nvidia-imex 서비스도 비활성화하고 다시 실행되지 않도록 차단해야 한다. 베어메탈 노드 복구와 BMC(베이스보드 관리 컨트롤러) 개입은 운영자가 맡는다.

버전 조건은 학습과 추론 경로에 따라 다르다. 학습에는 쿠버네티스 1.34.1 이상이 필요하다.

추론 경로는 Gateway API 구성 충돌 때문에 쿠버네티스 1.36.0 미만을 요구한다. 추론에는 베어메탈 환경에서 작동하는 로드밸런서도 별도로 마련해야 한다.

자동 장비 식별에도 제한이 있다. 현재 AICR은 VR200을 자동으로 식별하지 못해 스냅샷에서 가속기 종류가 any로 기록될 수 있으며, 레시피 생성 시 운영자가 --accelerator vr200을 지정해야 한다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기