CUDA 13.5, 베라 루빈 지원 GA 전환…엔비디아

엔비디아(NVIDIA·$NVDA)가 CUDA 툴킷 13.5에서 베라 루빈 GPU 아키텍처 지원을 프리뷰에서 정식 지원(GA)으로 전환했다. 여러 작업이 GPU를 공유할 때 연산 자원을 나누고 실행 순서를 조정하는 기능도 보강했다.

엔비디아는 4일 기술 블로그에서 CUDA 13.5의 변경 사항을 공개했다. 이번 GA는 CUDA에서 베라 루빈 아키텍처를 지원하는 단계가 정식으로 바뀌었다는 뜻이며, 베라 루빈 제품군 전체의 출시를 의미하지는 않는다.

엔비디아는 9월 공개한 CUDA 13.4에서 베라 루빈 지원을 프리뷰로 제공하고 MPS v3와 로컬리티 도메인 접근 기능을 소개했다. 13.5에서는 기존 기반 위에 자원 배분과 스케줄링 선택지를 더했다.

로컬리티 도메인은 GPU 내부의 연산 자원인 SM(스트리밍 멀티프로세서)과 메모리의 위치를 고려해 작업을 배치하는 기능이다. 작업을 나눌 때 자원의 위치를 고려해 각 분할을 구성할 수 있다.

기본 설정은 각 도메인에 같은 수의 SM을 배정하고 남는 SM은 분할에서 제외한다. 추가 SM까지 활용하는 설정을 선택하면 장치 자원을 더 많이 쓸 수 있지만, 도메인마다 배분되는 SM 수는 달라질 수 있다. 개발자는 cudaDevSmResourceSplit()의 탐색 모드로 분할별 SM 수를 확인할 수 있다.

여러 프로세스가 GPU를 공유하는 MPS(다중 프로세스 서비스)는 서버마다 기본 타임슬라이스와 배율을 설정해 GPU 연산 시간을 조정할 수 있도록 했다. 작업별 실행 시간을 어떻게 나눌지 설정할 수 있는 셈이다.

연결된 클라이언트가 없는 파티션은 SM을 다른 작업에 빌려줄 수 있다. MPS는 자원을 재배정하기 전에 빌린 SM을 회수한다.

cgroup v2로 묶인 작업을 MPS 네임스페이스에 연결해 자원 정책을 적용하는 기능도 담겼다. 네임스페이스별로 SM 분할을 지정하면 해당 그룹의 작업 전체에 같은 설정을 적용할 수 있다.

이렇게 설정하면 각 작업마다 분할용 환경변수를 따로 지정할 필요가 없다. 메모리 사용량 알림이 없거나 불안정하게 동작할 때는 MPS가 사용량과 한도를 직접 조회해 자원 회수 여부를 판단할 수 있다.

CUDA 그래프에서는 여러 1차원 메모리 복사 작업을 묶어 캡처하고 다시 실행할 수 있다. 작업 묶음의 구조를 유지하는 범위에서 복사 주소와 크기도 수정할 수 있다.

Windows on Arm용 CUDA 지원은 13.4에서 이미 정식 제공됐다. 13.5에서는 지원 범위가 DGX Station for Windows로 넓어졌다.

베라 루빈은 윈도 드라이버 모델로 WDDM과 MCDM을 지원하며 TCC는 지원하지 않는다. 기존 TCC 구성에 의존하는 배포 도구는 지원되는 드라이버 모델을 사용해야 한다.

CUDA 13.5 릴리스 노트는 이번 버전에 대응하는 드라이버 계열을 R620으로 제시했다. 기존 CUDA 13.x 응용프로그램은 드라이버 580 이상에서 마이너 버전 호환으로 실행될 수 있지만, 13.5의 새 기능과 새 플랫폼에는 이를 지원하는 R620 이상 드라이버가 필요하다.

이번 발표는 베라 루빈 인프라의 클라우드 이용 가능성을 다룬 본지 보도와는 별개로, CUDA의 아키텍처 지원 단계와 GPU 자원 관리 기능을 다룬 업데이트다.