생성형 AI의 병목은 스토리지…슈퍼마이크로·인텔, '제온6'로 해법 제시

생성형 AI 시장이 오는 2032년까지 1조3,000억 달러(약 1,872조 원) 규모로 성장할 것으로 전망되면서, 기업들이 AI 워크로드를 처리할 수 있는 엔터프라이즈급 스토리지 솔루션 확보에 박차를 가하고 있다. 그러나 실제로는 많은 생성형 AI 및 에이전틱 AI 프로토타입이 본격적인 생산 단계까지 이르지 못한 채 중단되는 경우가 적지 않다.

이 같은 현실을 극복하기 위해 슈퍼마이크로(SMCI)는 최근 ‘Open Storage Summit 2025’를 개최하고, 뉴타닉스(NTNX), 인텔(INTC), 미니오(MINIO) 등과 함께 AI 기반 기업용 스토리지 구축 전략을 제시했다. 이 행사에서 웬델 웬젠 슈퍼마이크로 디렉터는 “스토리지 인프라 성능, 비용 문제, IT 조직 정렬 부족이 주요 장애물”이라며, 최근에는 부진했던 AI 프로젝트의 절반가량이 성공적으로 프로덕션 단계로 전환되고 있다는 긍정적 신호도 언급했다.

슈퍼마이크로는 인텔의 최신 제온 6(Xeon 6) 프로세서 기반의 서버와 미니오가 제공하는 오브젝트 스토리지를 결합해, 하이브리드 및 에지 환경에서도 생성형 AI를 원활히 구동할 수 있는 스토리지 생태계를 구축하고 있다. 기업들은 특히 금융, 헬스케어 등 민감한 분야에서 자사 데이터를 기반으로 고유한 AI 모델을 학습시키고자 하는 수요가 높다.

뉴타닉스의 전략 마케팅 총괄 칸찬 미라니는 “기업들이 GPU 등을 보유하고 있더라도, AI를 엔터프라이즈 수준으로 구현하려면 스토리지가 병목현상을 최소화해야 한다”고 강조했다. 실제 뉴타닉스는 GPU 활용도 벤치마크에서 자사 통합 스토리지를 통해 1,000개 이상의 GPU를 90% 이상 활용 가능했다고 밝혔다. 이는 경쟁사 대비 두 배 이상 높은 수치다.

인텔 또한 AI용 대규모 데이터 처리에 최적화된 제온 6 프로세서를 통해 스토리지 효율을 높이고 있다. 인텔의 개리 브라운 마케팅 이사는 “생성형 AI는 구조화·비정형 데이터를 모두 빠르고 지연 없이 처리할 수 있어야 한다”며, 메모리 대역폭을 이전 세대 대비 대폭 강화한 제온 6의 강점을 강조했다.

이와 함께 미니오의 AIStor는 기업 환경에 최적화된 오브젝트 스토리지 솔루션으로, 사용자 데이터를 보호하는 동시에 다양한 데이터 세트와 호환 가능한 S3 시스템을 기반으로 구축됐다. 미니오의 AI 엔지니어 키이스 피자노프스키는 “모델 최초 다운로드 시점부터 자동 버전 관리 및 저장 처리를 통해 오류를 방지하고 운영 효율성을 확보한다”고 밝혔다.

한편 일부 기업들은 여전히 어떤 AI 모델을 선택하고 어떻게 적용할지에 대해 망설이고 있지만, 전문가들은 "일단 시작하고 경험을 통해 배우는 것"이 AI 구현의 핵심이라고 조언한다. 웬젠은 “사용자 편의성이 확연히 향상되었고, 앞으로 1년 내 AI 스토리지 기술은 더욱 빠르게 고도화될 것”이라고 전망했다.

이번 슈퍼마이크로 Open Storage Summit은 생성형 AI 생태계 전체의 이행을 위한 스토리지 기술의 핵심 전환점으로 평가되며, 차세대 데이터 인프라 구축에서 GPU 중심의 고성능 연산 못지않게 스토리지 최적화가 필수임을 다시 한번 입증했다.