인공지능(AI)이 더 이상 실험실 안에만 머무는 기술이 아니다. 이제 AI는 글로벌 비즈니스의 중심으로 자리 잡았으며, 그 핵심 동력으로 'AI 인프라스트럭처'가 부상하고 있다. 한때 비용 증가의 주범이자 유지비가 많이 드는 시스템으로 인식되던 AI 인프라가, 이제는 기업 수익 창출의 원천으로 변모하고 있다.

엔비디아(NVDA)의 HPC·클라우드·AI 인프라 솔루션 부문 수석 디렉터 디온 해리스는 최근 'AI 팩토리 및 미래 데이터센터'라는 주제로 열린 뉴욕증권거래소 행사에서 이와 같은 산업 전환을 강조했다. 그는 “과거엔 효율성과 생산성 개선이 목적이었다면, 지금 AI 팩토리는 자체적으로 매출을 발생시키는 수익 중심 역할을 한다”고 밝혔다.

이러한 변화의 배경에는 AI를 단순한 워크로드 처리 장치가 아닌 생산 시스템으로 바라보는 관점의 전환이 있다. 이른바 ‘AI 팩토리’는 데이터를 처리하는 것이 아니라 지능을 생산하는 데이터센터이며, 이들이 생성한 ‘토큰’이 곧 새로운 가치를 만들어낸다. 해리스는 “이 토큰은 신약 개발, 신소재 탐색, 대규모 언어 모델 구축 등 다양한 첨단 산업에 적용된다”고 설명했다.

AI 인프라가 효과적으로 가동되기 위해서는 단순한 컴퓨팅 파워만으로는 부족하다. 해리스는 이를 위해 생태계 전반에 걸친 협력이 필수라고 강조하며, “엔비디아 혼자서는 불가능하다. 보안, 배포, 접근성을 모두 고려한 통합 솔루션이 필요하다”고 말했다.

AI 팩토리의 확산은 물리적 인프라의 판도도 뒤흔들고 있다. 데이터센터 설계는 기존의 서버 냉각 구조를 넘어 액체 냉각 기술과 컴퓨팅·네트워크·스토리지 간의 통합 오케스트레이션으로 진화하고 있다. 실시간 추론 작업이 증가함에 따라 수많은 사용자와 다양한 모델을 동시에 지원해야 하기 때문이다.

뿐만 아니라 AI 인프라의 확장성은 비즈니스 성장을 넘어서 기후 변화, 농업, 에너지 같은 글로벌 도전 과제 해결에도 활용되고 있다. 해리스는 “날씨 예측만 놓고 봐도, 전 세계에 걸친 파급력이 어마어마하다. AI 기술이 이 문제를 더 효율적으로 다룰 수 있도록 돕고 있다”고 덧붙였다.

엔비디아는 최근 오픈AI와 함께 약 10GW의 규모로 추정되는 AI 팩토리 인프라 구축 계획을 발표하며 이러한 비전을 구체화하고 있다. 이는 약 14조 원에 달하는 대규모 투자로, 전통적인 데이터센터와 완전히 다른 패러다임의 전환을 예고하고 있다.

AI 인프라가 ‘비용’에서 ‘가치’로 중심축을 옮겨가고 있는 지금, 세계 각국의 기업과 정부는 이를 새로운 성장의 엔진으로 받아들이고 있다. AI가 만들어내는 토큰은 단순한 출력물이 아닌, 변화의 시작이다.