구글에서 선호하는 출처로 추가
엔비디아, 외부 인프라서도 모델·데이터 통제권 유지하는 기밀 컴퓨팅 방안 공개
이도현 기자
엔비디아가 프런티어 모델 개발사가 제3자 전용 인프라에서도 모델과 데이터 통제권을 유지할 수 있는 'Confidential Bare Metal' 배포 방안을 내놨다. 구글 클라우드와 코히어가 이 방안을 지원·통합할 계획이다.
토포AI로 이 기사 더 깊이 읽기
엔비디아($NVDA)가 프런티어 모델 개발사가 제3자 전용 인프라에서 민감한 워크로드를 실행하면서도 모델과 데이터에 대한 통제권을 유지할 수 있는 'Confidential Bare Metal' 배포 방안을 내놨다.
이 방안은 하드웨어 수준의 격리, 암호화 검증, 접근 제한으로 모델과 데이터가 실행되는 동안의 보안을 지킨다고 차이롄서(财联社)는 21일 전했다.
엔비디아의 기밀 컴퓨팅 지원 범위도 넓어진다. 대상 시스템은 △그레이스 블랙웰 NVL72 △HGX 루빈 NVL8 △DGX 루빈 NVL8이며, 이 기능은 DSX OS에도 통합된다.
클라우드와 AI 서비스 업계의 도입 계획도 함께 나왔다. 구글 클라우드는 엔비디아 GB300 NVL72 시스템을 탑재한 A4X Max 인스턴스에서 이 방안을 지원할 예정이다. 코히어(Cohere)는 이를 자사 Cohere Model Vault에 통합할 계획이다.
모델과 데이터의 통제권은 엔비디아가 앞서 스타트업의 오픈·폐쇄형 모델 선택 논의에서 비용·인프라와 함께 짚은 쟁점이기도 하다.
댓글 0
불러오는 중…