AMD, AI 추론 성능 35배↑ ‘MI350 시리즈’로 엔비디아에 도전장

AMD가 연례 행사 'Advancing AI'에서 차세대 AI 가속기 ‘Instinct MI350 시리즈’를 공개하며 본격적인 AI 인프라 경쟁에 돌입했다. 이 제품은 전작 대비 AI 연산 성능이 4배, 추론 능력은 무려 35배 향상된 것으로 발표돼 업계의 이목을 집중시켰다. AMD는 이를 통해 오픈 생태계를 기반으로 엔비디아에 도전장을 내밀었고, 주요 클라우드 기업들과의 전략적 협업도 함께 발표했다.

이번에 발표된 MI350 시리즈는 MI350X와 MI355X GPU를 포함한 다양한 플랫폼으로 구성됐으며, 생성형 AI와 고성능 컴퓨팅(HPC) 전반에 걸쳐 유연하고 확장 가능한 인프라를 제공한다. AMD는 이를 통해 전 세계적인 AI 수요 증가에 대응하고, 산업 전반에 걸친 AI 솔루션 확산의 전환점을 마련하겠다는 포부를 밝혔다.

특히 리사 수(Lisa Su) AMD 최고경영자(CEO)는 기조연설에서 "이제 AI 추론이 전환점을 맞았다"며 "AI의 미래는 특정 기업이나 폐쇄된 생태계가 아닌, 오픈 협력을 통해 구축될 것"이라고 강조하며 엔비디아를 의식한 발언도 덧붙였다. 이에 오픈AI의 샘 알트먼(Sam Altman) CEO는 MI350 시리즈의 사양이 놀랍다며, AMD의 신속한 기술 반영에 감사를 표했다.

AMD는 MI350 시리즈가 자사 5세대 EPYC 프로세서, Pensando Pollara NIC 등과 함께 오라클 클라우드 인프라에서 이미 배치되고 있으며, 올해 하반기 중 본격적인 시장 확대를 예고했다. 또한 차세대 AI 랙 시스템 ‘헬리오스(Helios)’의 로드맵도 공개하며 2027년 이후까지의 장기 전략을 제시했다. 헬리오스는 MI400 시리즈 GPU 및 Zen 6 기반 베니스(Venice) CPU로 구성될 예정이며, 온프레미스 및 중소 클라우드 시장을 겨냥한다는 분석도 제기됐다.

크리에이티브 스트래티지의 애널리스트 벤 바자린(Ben Bajarin)은 “AMD는 엔비디아와는 상이한 고객층, 특히 2~3티어 클라우드와 온프레미스 기업 시장을 타깃하고 있다”며 “추론 시장이 본격화되고 있는 현 시점에서 AMD의 총소유비용(TCO) 강점이 주목받게 될 것”이라고 전망했다.

ROCm 7으로 명명된 최신 버전의 오픈소스 AI 소프트웨어 스택도 함께 공개됐다. ROCm 7은 주요 프레임워크 호환성, 지원 하드웨어 확장, 개발 도구 개선 등 AI 개발자 환경 전반을 향상시키는 것을 목표로 한다. 이를 통해 AMD는 개발 편의성과 확장성을 동시에 강화하며 소프트웨어 경쟁력까지 확보하고 있다.

뿐만 아니라 AMD는 2030년까지 기존 대비 20배의 에너지 효율을 달성하겠다는 새로운 지속가능성 목표도 제시했다. 현재는 AI 모델 학습에 275개 이상 랙이 필요하지만, 2030년에는 1개 이하의 랙으로 동일 작업 수행이 가능해진다는 계획이다.

AMD 개발자 클라우드의 공식 출시도 이목을 끌었다. 오픈소스와 전 세계 개발자들을 위한 공간으로 구축된 이 플랫폼은 ROCm 7과 함께 AI 프로젝트의 빠른 시범 개발 및 확장을 지원한다. 참가자들에게는 개발 크레딧도 제공되며, 허깅페이스, 오픈AI, Grok과의 전략 협업이 이를 뒷받침한다.

특히 메타는 MI300X GPU를 통해 라마(Llama) 3, 4 모델의 추론을 실행 중이며, 앞으로 MI350 및 MI400까지 협력 확대를 예고했다. 오라클은 최대 13만 개 이상의 MI355X GPU를 활용하는 Zettascale AI 클러스터를 준비 중이며, 마이크로소프트는 애저(Azure)에서 MI300X 활용을 공식화했다. 이 밖에도 Cohere, HUMAIN, 레드햇, 아스테라 랩스, 마벨 등의 파트너들이 AMD 기반 AI 인프라 사례를 공유했다.

이번 발표는 AMD가 유연성과 개방성을 무기로 AI 시장 내 입지를 본격 확대하고 있음을 보여주는 신호탄으로 평가된다. 엔비디아에 일방적으로 쏠렸던 AI 시장 지형을 AMD가 어떻게 바꿔나갈지, 업계의 관심이 집중되고 있다.