엔비디아, H100 GKE 추론 레시피에 AI 작업 목록 기본 탑재

엔비디아(NVIDIA·$NVDA)가 GPU 기반 쿠버네티스 환경의 구성 검증 도구에 AI 작업 정보를 기록하는 오픈소스 도구 k8s-aibom을 통합했다. 예시 조합은 AICR 1.2.0과 k8s-aibom 1.6.2다.

엔비디아는 11일 기술 블로그에서 통합 내용을 공개했다. 이번 기능은 클러스터 설정을 관리하는 AICR 레시피에 AI 작업 인벤토리를 추가하는 방식이다.

AICR는 드라이버와 네트워크 등 플랫폼 구성요소의 버전과 상태를 관리한다. k8s-aibom은 그 환경에서 지원 대상 AI 작업을 찾아 어떤 모델과 추론 소프트웨어가 배포됐는지 목록으로 만든다.

AI 작업 목록 기능은 H100 GPU를 사용하는 GKE 추론 레시피와 이를 상속한 Dynamo 레시피에 기본 포함된다. 다른 GKE 레시피에는 생성 단계에서 선택해 추가할 수 있으며, AICR의 모든 레시피에 자동 적용되지는 않는다.

목록에는 감지된 모델, 추론 런타임, 에이전트, 검색증강생성(RAG) 구성요소와 관련 속성이 담긴다. 운영자는 작업을 구성하는 요소와 각 속성이 어디에서 확인됐는지 살펴볼 수 있다.

k8s-aibom은 정보를 CycloneDX 1.6 형식의 기계학습 구성 목록(ML-BOM)으로 만든다. 각 속성에는 값을 판단한 근거 위치와 신뢰 수준이 붙는다.

신뢰 수준은 설정에 명시된 값(declared), 도구가 추론한 값(inferred), 확인하지 못한 값(unresolved), 설정된 신뢰 기준에 따라 서명을 확인한 모델 주장(verified)으로 구분된다. 이에 따라 운영자는 설정에서 온 정보와 도구가 감지하거나 추론한 정보를 나눠 볼 수 있다.

구글 클라우드(Google Cloud)는 2026년 7월 13일 k8s-aibom을 공개했다. 쿠버네티스 클러스터에서 AI 런타임을 찾아 기계학습 구성 목록을 만드는 오픈소스 컨트롤러다.

본지는 앞서 GPU 클러스터 구성요소의 버전과 상태를 관리하는 AICR 운영 절차를 다뤘다. 이번 통합은 플랫폼 구성 관리에 더해 그 위에서 동작하는 AI 작업의 구성 정보를 기록한다.

목록은 관리자가 선택한 네임스페이스에 속한 지원 작업 가운데 인식 가능한 AI 신호가 있을 때 생성된다. 지원 대상이나 신호가 없으면 해당 작업이 목록에 나타나지 않을 수 있다.

네임스페이스 선택은 목록 생성 대상을 정하지만 컨트롤러가 읽는 범위를 해당 네임스페이스로 제한하지는 않는다. 컨트롤러는 클러스터 전반의 작업과 파드 명세를 읽는다.

목록은 파드가 실제로 실행되기 전에 만들어질 수 있다. 상태가 Ready=True로 표시돼도 이미지 다운로드가 끝나지 않았을 수 있어, 목록 생성이나 준비 상태만으로 작업 실행 성공을 판단할 수 없다.

프로젝트 저장소는 이 목록이 규제 준수를 인증하지 않는다고 명시했다. AI 작업 인벤토리는 구성 정보를 기록하는 수단이며, 규제 요건 충족을 확인하는 인증은 아니다.

런타임에서 관찰한 AIBOM 정보 자체는 서명되지 않는다. 엔비디아는 AICR의 모델 서명 검증도 기본적으로 비활성화돼 있다고 설명했다.

엔비디아가 소개한 자원 사용량 시험은 k8s-aibom 1.6.1을 대상으로 했다. CPU 전용 노드에서 작업 파드를 대기시킨 채 15분간 관찰한 결과 API 서버 요청은 분당 약 4회였고, 컨트롤러의 평균 CPU 사용량은 2.2밀리코어, 메모리 사용량은 28~34MiB였다. 실서비스 처리량이나 GPU 클러스터 전체 성능을 측정한 결과는 아니다.