인공지능이 금융 서비스를 비롯한 다양한 산업에 깊이 스며들면서, 초고속 연산을 처리할 GPU와 이를 뒷받침할 데이터 인프라 간의 속도 격차가 핵심 과제로 부상하고 있다. 이에 따라 'AI 팩토리' 개념이 주목받고 있으며, 데이터를 통해 기업이 실질적 비즈니스 가치와 재무 성과를 달성할 수 있는 새로운 해결책으로 부상하고 있다.

AI 데이터 플랫폼 전문 기업 데이터다이렉트네트웍스(DDN)의 알렉스 부자리 최고경영자(CEO)는 최근 개최된 SC25 콘퍼런스에서, AI 팩토리를 단순한 기술이 아닌 엔터프라이즈 전략의 도구로 규정하며 “AI 팩토리는 단순히 모델을 학습하거나 분석하는 수준을 넘어, 분석·추론까지 전체 파이프라인을 포괄하는 유연한 구조”라고 설명했다. GPU는 점점 더 빨라지고 있지만, 이를 실시간으로 지원하는 스토리지나 네트워크 인프라는 상대적으로 따라가지 못하고 있어 기업들이 AI 시스템 도입 시 병목현상에 직면하고 있다는 지적이다.

부자리 CEO는 “AI가 금융, 투자, 보험 같은 고부가가치 산업에서 성과를 내기 위해서는 데이터와 연산이 유기적으로 통합된 오케스트레이션 계층이 필수”라고 강조했다. 그에 따르면, 파일 시스템이든 오브젝트 저장 방식이든 특정 기술 자체보다 중요한 것은 다양한 스택을 통합해 기업들이 원하는 AI 자원 소비 구조를 구축하는 일이다.

특히 금융 산업처럼 실시간 분석과 대규모 예측이 중요한 시장에서는, AI 도입 효과를 극대화하기 위해 시스템 전반의 목적성이 '고객 가치' 중심으로 맞춰져야 한다고 조언했다. 그는 "AI 프로젝트는 단순히 기술 도입이 아닌, 고객의 프레임워크와 고통 지점까지 이해한 뒤 실질적 개선 효과를 안겨주는 방향으로 계획돼야 한다"고 밝혔다.

이런 방향성은 최근 기술 업계에서 떠오르고 있는 '국가 주권형 AI(Sovereign AI)' 논의와도 맞닿아 있다. 부자리 CEO는 “AI 팩토리는 민간 기업 중심의 접근이고, 소버린 AI는 정부 단위의 필요에 따른 개념이지만, 두 모델 모두 핵심은 데이터와 컴퓨트를 결합해 실제 성과를 내는 것”이라고 분석했다.

AI 팩토리는 단기간 수익성은 기대하기 어려울 수 있으나, 중장기적으로 수조 원 규모의 가치를 창출할 잠재력을 갖췄다는 분석도 나온다. 게다가 금융업을 포함한 전통 산업에서도 실시간 리스크 평가, 고객 피드백 기반 상품 설계, 거래 이상 탐지 등 다양한 용도로 활용될 수 있어, 해당 산업의 기술 트랜스포메이션을 가속화할 전망이다.

AI 산업 전반이 초거대 모델 경쟁에서 효율 중심으로 전환되면서, AI 팩토리와 같은 구조적 대응 전략이 점점 더 중요해지고 있다. 한계에 다다른 단순 모델 확장보다는, 데이터를 어떻게 적시에 이동·처리하고 실질적 결과로 연결할 수 있는 구조를 만들 수 있느냐가 향후 기업의 경쟁력을 가를 핵심 요인이 될 것으로 보인다.