AI 병목 줄인다…'컴퓨팅을 데이터 가까이로' 헬스케어 인프라 혁신

인공지능(AI)이 헬스케어를 포함한 다양한 산업의 운영방식을 송두리째 바꾸고 있는 가운데, 데이터 인프라의 한계가 AI 확산의 발목을 잡고 있다는 지적이 나왔다. 특히 AI 모델이 실시간으로 막대한 양의 데이터를 빠르게 처리해야 하는 환경에서는 기존의 중앙 집중형 데이터 저장 방식으로는 성능 확보에 한계가 명확하다는 분석이다. 이에 따라 '데이터를 컴퓨팅으로 이동시키기' 보다는 '컴퓨팅을 데이터 가까이로 이동시키기'라는 새로운 패러다임이 떠오르고 있다.

이 같은 흐름은 샌프란시스코에서 열린 ‘VB 트랜스폼 2025’ 행사 첫날에도 주요 화두로 떠올랐다. PEAK:AIO와 솔리디그(Solidigm)는 의료 영상 AI를 중심으로 새로운 스토리지 인프라 해법을 제시하며 산업계의 주목을 받았다. 이들은 의료용 AI 오픈소스 프로젝트 'MONAI(모나이)'와 손잡고 병원 내 실시간 진단과 연구 개발, 운영 효율성 확보를 가속화할 수 있는 데이터 인프라 혁신을 추진하고 있다.

행사의 패널 토론에서는 마이크로소프트 벤처캐피탈 펀드인 M12의 파트너 마이클 스튜어트의 사회 아래, PEAK:AIO의 최고경영자 로저 커밍스와 솔리디그의 상품 총괄 그렉 매트슨이 참가해 차세대 고용량 스토리지가 의료 AI에 가져오는 변화를 설명했다. 두 회사는 MONAI 프로젝트의 초창기부터 참여해 의료 데이터를 위한 현장형(edge) AI 스토리지 환경을 함께 설계해 왔다.

MONAI는 킹스칼리지 런던을 비롯한 연구 기관들과 공동으로 개발된 오픈소스 기반의 프레임워크로, 의료 데이터의 특수성을 고려한 다양한 툴킷과 라이브러리를 제공한다. 특히 병원 내 로컬 GPU 서버에서 직접 활용할 수 있도록 설계되어 환자 데이터 보안과 처리속도를 모두 확보할 수 있다는 점에서 폭넓게 활용되고 있다. 이러한 구조는 높은 속도와 확장성을 갖춘 스토리지 기반 인프라 없이는 성능을 극대화하기 어렵기 때문에, 솔리디그의 고밀도 플래시 스토리지와 PEAK:AIO의 소프트웨어 정의 저장 솔루션이 핵심 역할을 맡고 있는 셈이다.

실제로 솔리디그는 병원 내 기존 시스템 안에서 단일 노드에 200만 건이 넘는 전신 CT 영상을 저장할 수 있는 공간 효율성과 에너지 절감 효과를 동시에 구현했다. 매트슨은 “공간과 전력이 제약된 환경에서도 고용량 데이터를 로컬에서 신속하게 처리할 수 있어, 의료 AI의 실시간 추론과 학습이 가능해졌다”고 강조했다.

AI가 고속의 입출력 처리 속도를 요구하는 반면, 병원과 같은 현장 환경은 이를 수용할 만한 IOPS(초당 입출력 처리 횟수)를 가진 스토리지 시스템을 필요로 한다. PEAK:AIO는 이에 대응해 범용 서버에서도 고성능을 낼 수 있는 소프트웨어 정의 스토리지를 제공하고 있으며, 솔리디그의 SSD와 결합해 데이터 파이프라인 전구간에서 안정적인 속도와 저장 효율을 확보하고 있다.

커밍스는 “우리는 메모리를 저장 인프라의 일부로 간주하고 있으며, 전통적인 병목 현상을 제거하는 데 중점을 뒀다”고 밝혔다. 이어 “인공지능이 실제로 운영되는 현장에 데이터를 가깝게 배치하고, 하나의 노드에서 최대 성능을 구현할 수 있도록 설계했다”고 설명했다.

이러한 전략은 최근 구축되고 있는 '그린필드 데이터센터'의 설계 방향과도 맞닿아 있다. GPU와 데이터를 최대한 가깝게 배치해 병목을 최소화하는 것이 과제로 떠오른 가운데, 초고용량 SSD와 전용 스토리지를 통한 고속 데이터 공급이 핵심 기준으로 작용하고 있는 것이다.

커밍스는 “기업이 AI 시스템의 성능을 최대화하려면 저장 장치 선택에서부터 전략적 접근이 필요하다”며 “MONAI 사례에서도 1,500만 장 이상의 이미지를 단일 시스템에 저장하고, 실시간 추론까지 수행할 수 있는 역량을 확보한 것은 그 결과”라고 강조했다.

AI 활용이 본격화되는 상황에서, 기업들은 단순히 GPU나 서버를 확대하는 것만으로는 지속가능한 경쟁력을 갖추기 어렵다. 데이터를 탈중앙화하고, 컴퓨팅을 데이터 가까이 배치하는 방식이야말로 성능, 보안, 확장성 모두를 충족시키는 해법이 될 수 있다는 것이 업계 전문가들의 공통된 시각이다.