AI가 기업 인프라의 전략적 중심축으로 부상하면서, 데이터센터의 개념도 근본적으로 재편되고 있다. 단순 연산 시설을 넘어 ‘AI 팩토리’로 진화 중인 이들 공간은 이제 성능, 거버넌스, 에너지 효율성을 동시에 충족해야 하는 지능형 플랫폼으로 자리매김하고 있다.
델테크놀로지스(Dell Technologies)의 메리 키어넌(Mary Kiernan) AI 총괄 디렉터는 최근 열린 ‘AI 팩토리: 미래의 데이터센터’ 행사에서 “AI 도입을 위해 기업들이 점점 더 통합형 시스템을 선호하고 있다”고 강조했다. 그는 검증된 설계를 통해 AI 배치를 단순화하고 복잡성을 줄이는 것이 핵심 전략이 되고 있다고 밝혔다.
ZK리서치(ZK Research)의 창업자 제우스 케라발라(Zeus Kerravala) 역시 “실리콘부터 주권까지 모든 인프라 계층에서 효율성과 신뢰성이 동시에 요구되고 있다”며 “AI 통합을 위한 시스템 아키텍처 전반의 재설계가 필요하다”고 분석했다. 특히 GPU의 역할이 중요해진 만큼 고속 스토리지와 네트워크 인프라를 병렬로 확충해야만 안정적인 AI 운영이 가능하다는 설명이다.
이러한 흐름 속에서 인텔(INTC)은 미국 정부의 자금 지원 및 엔비디아(NVDA)와의 협력을 기반으로 제6의 파운드리 전략을 추진 중이며, 이는 국가 안보와 AI 경제의 기반으로 간주되고 있다. 반면 엔비디아는 데이터센터를 AI 토큰을 창출하는 생산시설로 규정하면서, AI 팩토리가 단순한 비용 센터가 아니라 수익 창출원임을 분명히 했다.
델은 이러한 산업적 흐름에 발맞춰 ‘AI 팩토리’라는 개념을 현실화하고 있다. 키어넌 디렉터는 “POC(개념 검증) 단계의 AI 팩토리는 작지만, 기업 데이터센터와 연결되면 관측성, 오케스트레이션, 보안, 거버넌스 등 다양한 툴과 요소가 얽히게 된다”고 설명했다. 델은 이 모든 과정에서 사전 통합된 시스템을 통해 기업이 원하는 클라우드 유사 경험을 데이터센터 내에서도 구현할 수 있도록 지원하고 있다.
한편, 레드햇(Red Hat)은 오픈소스를 기반으로 민간 AI의 관리와 일관성을 강화하고 있으며, 클라우데라(Cloudera)는 하이브리드 데이터 플랫폼을 통해 데이터 주권과 유연성을 병행 구현하고 있다. 그록(Groq)은 추론 중심의 AI 인프라를 통해 지리적 경계 내에서의 AI 운영을 가능케 하며, 이는 특히 공공기관이나 대형 조직에 적합한 모델로 주목받고 있다.
델은 또 하나의 축으로 약 500개 이상의 글로벌 스타트업 생태계를 운영하며, AI, 양자컴퓨팅, 로보틱스 등 차세대 기술을 실험하고 실용화하는 교두보로 삼고 있다. 델의 사티쉬 아이어(Satish Iyer) CTO는 “내부 문제 해결을 위한 혁신이 외부 솔루션으로 확장되고 있다”며 “고객이 장비를 구입하기 전에 우리가 먼저 써보고 테스트했다는 점이 큰 신뢰를 준다”고 강조했다.
한편 월마트(Walmart)는 퍼블릭 클라우드와 프라이빗 데이터센터, 지역 엣지 노드를 혼합한 ‘트리플렛 모델’을 기반으로 AI 실행력을 끌어올리고 있다. 스라바나 카르나티(Sravana Karnati) 글로벌 기술 플랫폼 부사장에 따르면, 이러한 구조는 고객과 가까운 인프라를 통해 빠르고 맞춤화된 AI 응답을 가능하게 한다.
AI 인프라의 현재와 미래는 하드웨어, 아키텍처, 거버넌스, 그리고 생태계 전반에 걸쳐 복합적으로 진화하고 있다. 각 기업은 자신만의 전략적 영역에서 해법을 제시하며, 데이터센터는 이제 단순한 기술 자산을 넘어서 기업의 AI 역량을 결정짓는 전략 자산으로 변화하고 있다.