구글에서 선호하는 출처로 추가
엔비디아, AI 데이터센터 운영 소프트웨어 미네르바 소개
최윤서 기자
엔비디아가 GPU와 네트워크, 스토리지 데이터를 연결해 장애 징후와 영향을 받는 작업을 찾는 소프트웨어를 소개했다. 초기 배치 성과로 유효 GPU 시간 2% 증가 등을 제시했으며, 제품은 제한된 얼리 액세스 베타로 제공된다.
토포AI로 이 기사 더 깊이 읽기
엔비디아($NVDA)가 GPU와 네트워크, 스토리지 데이터를 연결해 AI 데이터센터의 이상 징후를 찾는 운영 소프트웨어 미네르바(Minerva)를 소개했다. 회사는 초기 배치 성과로 유효 GPU 시간 2% 증가 등을 제시했다.
엔비디아는 26일 기술 블로그에서 미네르바의 작동 방식과 사례를 설명했다. 네트워킹 소프트웨어 페이지에는 초기 배치 성과로 평균 인터럽트 간 시간(MTBI) 20% 증가, 평균 복구 시간(MTTR) 63% 감소, 경보 노이즈 최대 99.9% 감소도 제시됐다. 각 수치의 표본 규모와 비교 기준, 측정 기간은 공개되지 않았다.
미네르바는 GPU, Spectrum-X·NVLink 스위치, SuperNIC, DPU, 스토리지, NCCL, 스케줄러와 AI 작업의 메트릭·로그·토폴로지 정보를 수집한다고 엔비디아는 설명했다. 수집한 정보를 동적으로 갱신되는 지식 그래프로 연결해 장비의 이상 징후와 영향을 받는 작업을 추적한다. 엔비디아는 시간당 수십억 개의 메트릭·로그 데이터 포인트를 처리한다고 밝혔다.
엔비디아는 분산 학습에서 작업이 가장 느린 GPU나 연결 경로의 영향을 받아 장비 하나의 성능 저하가 다른 GPU의 대기 시간으로 이어질 수 있다고 설명했다. 네트워크와 컴퓨팅, AI 작업을 맡은 팀의 데이터가 나뉘어 있으면 원인을 찾는 데 시간이 걸릴 수 있다는 게 회사의 설명이다.
엔비디아는 미네르바가 사전 정의된 임계값만으로 찾기 어려운 이상 징후와 영향을 받는 작업을 연계하도록 설계됐다고 밝혔다. 엔비디아 기술 블로그는 약 40만 개 인터페이스가 있는 데이터센터에서 성능이 저하된 NVLink 연결 하나와 관련 학습 작업을 찾아낸 사례를 소개했다.
내장 AI 보조 기능 셜록(Sherlock)은 자연어 질의를 통해 클러스터 상태와 이상, 사고, 토폴로지를 조회하도록 설계됐다. 엔비디아 사용자 설명서는 셜록이 실시간 미네르바 데이터를 바탕으로 관련 질문에 답한다고 설명한다.
또 다른 사례에서 엔비디아는 NVMe 저장장치가 저전력 상태에서 정상적으로 깨어나지 못해 여러 학습 작업이 지연됐다고 밝혔다. 회사는 문제 장비를 분리한 뒤 작업 실행 시간 약 5530시간을 절감한 것으로 추정했다. 이는 엔비디아가 제시한 개별 사례의 추정치다.
엔비디아는 미네르바가 미션 컨트롤(Mission Control)의 기존 관측 기능을 보완한다고 설명했다. 미션 컨트롤 릴리스 문서는 미네르바 1.0.0을 제한된 참여 방식으로 제공하는 사전 출시 베타 구성요소로 명시했다.
Comment 0
불러오는 중…