인공지능(AI) 모델의 복잡성이 갈수록 높아지고 데이터 요구량이 폭발적으로 증가하면서, 글로벌 기업들이 AI 성능 극대화를 위해 데이터 저장 인프라를 근본적으로 재편하고 있다. 특히 GPU 클러스터를 기반으로 대규모 학습을 수행하는 AI 시스템에서는 연산 속도만큼이나 신속하고 정확한 데이터 공급 체계가 AI 성능의 핵심으로 부상했다.

SC25 행사에서 진행된 인터뷰에 따르면, SK하이닉스의 낸드 솔루션 자회사 솔리다임(Solidigm) 소속 앨런 범가너 전략기획 디렉터는 “데이터 센터는 이제 사실상 창고형 슈퍼컴퓨터로 변화하고 있다”며, “대형 GPU 클러스터는 공기가 아닌 데이터를 먹고 자란다”고 비유했다. 그는 AI-ready 스토리지 인프라를 통해 정돈된 구조로 저장된 대량 데이터를 실시간으로 제공하는 시스템이 결국 AI 학습 속도와 모델 정확도를 좌우한다고 강조했다.

비용 절감을 이유로 초기에는 많은 기업들이 자체 데이터 센터에서 AI 스택을 구축하려 시도했지만, 이는 전통적인 인프라로는 대규모 병렬 연산을 처리하기 어려운 구조라는 점에서 한계를 드러냈다. 이에 따라 솔리다임과 글로벌 데이터 센터 기업 이큅닉스(Equinix)의 기술진은 하이브리드 접근법, 즉 다양한 연산 환경과 제공자를 복합적으로 활용하는 전략이 AI 구현의 실효성을 높인다고 봤다.

이큅닉스의 글렌 디카이저 글로벌 수석 기술전문가는 “모든 AI 프로젝트는 사용 사례에 따라 다른 요구를 갖기 때문에 클라우드, 온프레미스, 엣지 환경 중 하나만 선택하는 방식은 오래가지 못할 것”이라며, “결국 네트워크 구성과 데이터 제공 방식까지 용도에 맞게 조합하는 유연성이 핵심”이라고 설명했다. 이를 위해 기업은 조기 PoC(개념검증)를 하이퍼스케일 GPU 상에서 시작한 후, 필요에 따라 네오클라우드 기반으로 전환하는 식의 전략적 전개를 고려해야 한다고 조언했다.

가장 공통된 과제로는 결국 ‘데이터 확보’가 꼽혔다. 디카이저는 “엣지 장치나 IoT, 로그, 고객 등 수많은 소스에서 데이터를 수집해 정제하지 않는 이상, AI가 어떤 형태로든 유의미한 성과를 내기 어렵다”며, 비정형 데이터까지 통합적으로 관리할 수 있는 저장 구조와 네트워크 설계가 필요하다고 덧붙였다.

업계 전문가들은 AI 성능 향상이 단순히 연산 능력 강화에서 오는 것이 아니라, 얼마나 체계적인 데이터 흐름을 구성하느냐에 따라 결정된다는 점에서 ‘AI 데이터를 위한 전략’이야말로 경쟁사의 추격을 따돌릴 수 있는 핵심 무기라고 진단한다. 특히 모델 학습의 정밀도와 계산 효율을 높이기 위해서는 데이터 저장 장치가 단순한 공간이 아닌, 지능형 공급 소스로 작동해야 한다는 인식이 확산되고 있다. 대규모 연산 시대에 진입한 AI 산업에서, 데이터가 실질적 연료가 되는 셈이다.