AI 성능 좌우하는 건 스토리지?… 헬스케어서 엣지까지 확산

기업용 인공지능(AI)의 빠른 확산 속도만큼, 이를 뒷받침하는 데이터 저장 인프라에 대한 수요도 급증하고 있다. 특히 의료영상 분석이나 사기 탐지, 야생동물 보호 등 높은 정확도와 복잡성을 요구하는 AI 모델들이 등장하면서, *스토리지 병목 현상*이 기업들의 AI 도입에 큰 장애물로 부상하고 있다.

이러한 상황에서 데이터 저장 기술의 혁신은 이제 선택이 아닌 필수가 되고 있다. 최근 열린 벤처비트 주최 ‘Transform 2025’ 컨퍼런스에서 솔리딤(Solidigm)의 제품 및 마케팅 총괄 그렉 매트슨(Greg Matson)과 PEAK:AIO의 최고경영자 로저 커밍스(Roger Cummings)는, 고성능 스토리지가 어떻게 AI 기반 헬스케어에서 실제 성과를 내고 있는지를 공유했다. 이들은 마이크로소프트의 벤처펀드 M12의 매니징 파트너 마이클 스튜어트(Michael Stewart)와 함께 의료 영상 프레임워크 MONAI의 사례를 집중 조명했다.

PEAK:AIO와 솔리딤이 공동 개발한 스토리지 솔루션은 전력 효율성과 대용량 처리능력을 동시에 갖춘 것이 특징이다. 이를 통해 이들은 단일 노드에서 200만 건이 넘는 전신 CT 스캔 데이터를 저장하는 데 성공하며 MONAI 프레임워크의 학습과 추론 속도 및 정확도를 대폭 향상시켰다. 매트슨은 “이러한 에지 환경에서의 활용은 매우 높은 입출력 빈도와 처리 속도를 요구하는 만큼, 기존 스토리지와는 다른 접근이 요구된다”고 설명했다.

AI 활용이 클라우드를 넘어 '엣지 컴퓨팅' 영역으로 확대되면서, 소형화된 시스템 내에서 방대한 데이터를 신속하게 처리하는 기술이 핵심으로 부상하고 있다. 이를 위해 고속 SSD가 장착된 일체형 시스템은 데이터를 GPU 근처에 배치시켜 *추론 속도*를 극대화할 수 있게 돕는다. 매트슨은 “최근 AI 전용 데이터센터에서 활용되던 스토리지 설계가 이제 엣지 현장에 그대로 접목되기 시작했다”고 말했다.

Cummings는 향후 AI 시스템 하드웨어 방향성에 대해 “개방형 아키텍처와 확장성, 그리고 메모리급 속도 구현이 중요하다”고 강조했다. 그는 “단순한 저장 장치가 아니라, 전체 AI 데이터 파이프라인 속 모든 처리 과정을 감당할 수 있는 구조로 진화하고 있다”고 말했다.

앞으로는 △1페타바이트급 초저전력 SSD △메모리급 속도를 구현하는 초고성능형 제품으로 시장이 양극화될 것으로 보인다. 매트슨은 “GPU 벤더들조차 고대역폭메모리(HBM)와 조화를 이루는 차세대 스토리지 아키텍처 설계를 고민하고 있다”며, “일반 클라우드에서 사용되던 범용 SSD는 점점 자취를 감추고, 목적에 최적화된 스토리지가 주류를 이룰 것”이라고 내다봤다.

AI 시장이 성숙기로 진입하면서 저장 기술 역시 단순한 백엔드 기술을 넘어 핵심 전략 자산으로 재평가받고 있다. 향후 5~10년간 스토리지 기술의 진화는 AI 모델의 성능, 효율, 확장 가능성을 좌우하는 결정적 요소가 될 전망이다.