AI의 도입이 기업 생태계를 재편하는 가운데, ‘AI 친화적 컴퓨팅(AI-native computing)’이 차세대 인프라의 판도를 바꾸고 있다. 마치 산업혁명 당시 공장들이 대량 생산의 중심이었듯, 오늘날 AI 팩토리로 불리는 차세대 데이터센터들이 지능형 애플리케이션의 성장을 견인하는 핵심 동력으로 부상하고 있다.

이러한 변화의 중심에는 AI 모델을 기반으로 구축된 ‘AI 네이티브 애플리케이션’이 있다. 이는 전통적 소프트웨어에 AI 기능을 얹는 방식이 아니라, 처음부터 AI 모델을 중심으로 설계된 서비스로서, 챗GPT나 헤드라, 커서와 같은 플랫폼이 대표적인 예다. 이러한 서비스는 학습과 추론을 반복하며 스스로 발전하는 구조를 갖췄으며, 고성능 연산과 데이터 처리 속도를 요구하기에 기존 컴퓨팅 환경만으로는 대응이 어렵다.

투게더 컴퓨터(Together Computer)의 공동 창립자이자 CEO 비풀 프라카시(Vipul Prakash)는 지난 10일 열린 ‘AI 팩토리: 미래의 데이터센터’ 행사에서 이 같은 변화의 배경을 설명했다. 그는 “과거 SaaS 애플리케이션이 9개월에 걸쳐 두 배 성장했다면, AI 네이티브 애플리케이션은 같은 성장을 단 9일 만에 이룬다”며 “전례 없는 확장성과 성능 요구로 인해 AI 전용 컴퓨팅 인프라가 필요해졌다”고 강조했다.

실제로 전 세계에 빠르게 보급되는 AI 기반 애플리케이션은 막대한 양의 데이터와 연산 자원을 요구하고 있다. 이로 인해 기업들은 자체 AI 팩토리를 구축하거나, 오픈소스 모델을 독자적으로 최적화해 활용하는 방식으로 차별화된 해법을 모색 중이다. 프라카시는 “수백만 명의 사용자를 통해 수집된 데이터는 곧 고품질 학습 데이터가 되어, 오픈소스 모델의 정교한 튜닝에 이상적인 환경을 제공한다”고 설명했다.

이러한 AI 팩토리를 설계할 때 최대 과제는 ‘데이터 이동성’이다. 학습부터 추론에 이르는 전 과정에서 데이터는 GPU 등 연산 자원에 최대한 가깝게 위치해야 지연을 최소화하고 처리 속도를 극대화할 수 있다. 이에 따라 투게더 컴퓨터는 대규모 스토리지를 모델 인접에 배치하는 방식으로 자체 인프라를 구성하고 있다. 프라카시는 “앞으로의 AI 팩토리는 모델과 데이터를 물리적으로 통합시킨 시스템으로 발전할 것”이라고 전망했다.

AI 친화 인프라가 가져오는 변화는 기술적 진보에 그치지 않는다. 에너지 효율, 아키텍처 설계, 스케일 확장성 측면에서도 새로운 기준이 정립되고 있다. 이 같은 기술 진화는 전통적 클라우드 생태계 접근 방식에서 벗어나, 성능 중심의 하드웨어 투자와 맞춤형 AI 최적화 전략으로 기업 IT의 방향을 재정의하고 있다.

결국 AI 컴퓨팅의 급속한 진화는 단순한 기술 문제를 넘어서 기업 경쟁력 확보의 본질적 요소로 부상하고 있다. AI 팩토리는 단순한 데이터센터가 아니라, 지능을 제조하는 공장이며, 이 공장을 얼마나 빠르고 효율적으로 구축하느냐가 미래 성장의 핵심 지표가 될 전망이다.