인텔, 엔비디아 H100에 도전하는 '가우디 3 AI 가속기' 출시

인텔이 인텔 비전 2024 행사에서 새로운 AI 가속기 가우디 3를 선보였다.

인텔은 인텔 비전 2024 행사에서 엔비디아의 H100에 정면으로 도전하는 최신 AI 가속기인 가우디 3를 선보였다. 이 제품은 주요 AI 모델에 대한 트레이닝과 추론 작업 모두에서 뛰어난 성능을 제공한다고 주장된다. 가우디 3는 이전 모델에 비해 AI 컴퓨팅, 메모리 대역폭, 네트워킹 기능이 크게 향상되었다. 최첨단 5nm 공정으로 제조된 이 제품은 64개의 AI 맞춤형 및 프로그래밍 가능 TPC와 64,000개의 병렬 연산을 처리할 수 있는 8개의 MME를 갖추고 있다. 또한 128GB 메모리, 3.7TB 메모리 대역폭, 96MB 온보드 SRAM으로 대용량 데이터세트를 효율적으로 처리할 수 있도록 설계되었다.

가우디 3는 다양한 모델에서 최대 50% 빠른 트레이닝 시간, 50% 향상된 추론 처리량, 40% 향상된 전력 효율을 제공한다고 주장된다. 그러나 이러한 주장은 인텔의 자체 벤치마크에 근거한다. Tom's Hardware에 따르면, 인텔의 접근 방식은 엔비디아의 B200 NVL72 시스템과 달리 가우디 3 가속기 간에 고속 이더넷 연결을 사용하고 리프 및 스파인 스위치와 페어링하여 클러스터를 생성하는 것이다.

인텔의 수석 부사장 겸 데이터센터 및 AI 그룹 총괄 매니저인 저스틴 호타드는 AI 솔루션에 대한 선택의 폭을 넓히고자 하는 고객에게 가우디 3의 매력을 강조했다. 그는 가격 대비 성능, 시스템 확장성, 가치 실현 시간의 이점을 강조했다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기