무결성 검증 3.67배, 엔비디아 AI 저장 병목 겨냥

엔비디아($NVDA)가 베라(Vera) CPU 기반 블루필드-4 STX(BlueField-4 STX)의 저장장치 작업 성능을 공개했다. CRC32C 무결성 검증 성능은 비교 대상 x86 CPU의 3.67배로 제시됐다.

엔비디아가 블루필드-4 STX의 성능 지표를 제시했다고 오데일리는 3일 전했다. 작업별 성능은 △AES-128 암호화 1.43배 △AES-128 복호화 1.29배 △리드-솔로몬 데이터 복구 3.26배 △압축 3.29배 △압축 해제 1.72배 △압축·암호화 다단계 저장 흐름 3.21배로 나타났다.

이번 발표는 AI 연산 과정에서 발생하는 저장장치 병목을 줄이는 데 초점을 맞췄다. 엔비디아는 7월 16일 기술 블로그에서 에이전트형 AI가 하나의 요청을 처리하면서 모델 호출과 도구 사용, 메모리 조회, 정책 확인, 저장장치 접근을 반복한다고 설명했다. 저장장치와 네트워크가 보조 설비를 넘어 추론 파이프라인의 일부가 됐다는 의미다.

블루필드-4 STX는 저장장치 인근에서 데이터 이동과 메타데이터 관리, 보안, 제어 작업을 처리하는 구조다. 엔비디아는 3월 16일 STX가 베라 루빈(Vera Rubin) 플랫폼과 블루필드-4, 커넥트X-9(ConnectX-9), 스펙트럼-X(Spectrum-X), DOCA 소프트웨어를 결합한다고 밝혔다. 회사는 STX 레퍼런스 아키텍처가 기존 CPU 기반 고성능 저장장치 구조보다 에너지 효율을 최대 4배 높이고 기업 AI 데이터의 페이지 수집 속도를 2배로 끌어올릴 수 있다고 설명했다.

엔비디아 CMX 컨텍스트 메모리 스토리지는 대규모언어모델의 키-값 캐시에 플래시 기반 저장 계층을 제공한다. 엔비디아는 베라 루빈 플랫폼 발표에서 DOCA Memos가 전용 KV 캐시 저장 처리를 지원해 일반 저장장치 아키텍처보다 추론 처리량을 최대 5배 높일 수 있다고 밝혔다.

초기 도입 예정 기업에는 코어위브(CoreWeave), 크루소(Crusoe), IREN, 람다(Lambda), 미스트랄 AI(Mistral AI), 네비우스(Nebius), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure·OCI), 벌처(Vultr)가 포함됐다. 저장장치·제조 파트너로는 델 테크놀로지스(Dell Technologies), HPE, IBM, 넷앱(NetApp), 뉴타닉스(Nutanix), 슈퍼마이크로(Supermicro), VAST Data, WEKA 등이 이름을 올렸다.

이번 발표는 블록체인 네트워크보다 AI 데이터센터와 반도체 인프라에 직접 연결된 사안이다. 다만 GPU 클러스터와 데이터센터 전력 효율, 고성능 네트워크 장비는 AI와 크립토 인프라 기업이 공통으로 부담하는 비용 항목이다. 공개된 성능 수치는 엔비디아가 제시한 결과로, 실제 클라우드 비용과 인프라 구매 구조에 미칠 영향은 별도의 검증이 필요하다.