델·H2O.ai, 기업 내 AI 공장 구축… ‘주권형 AI’ 전환 가속

AI 산업의 중심축이 빠르게 변화하고 있다. 더 이상 AI 기술의 진화는 실험적 단계에 머물지 않는다. 이제는 실제 데이터가 있는 기업 내부에서, 고도로 특화된 AI 워크플로우와 모델을 통해 가시적인 ROI를 창출하는 단계로 접어들었다. 델 테크놀로지스(DELL)와 H2O.ai는 이러한 전환을 주도하며, AI 공장이라는 새로운 기반 위에서 기업의 디지털 전환을 가속화하고 있다.

AI 공장은 대규모 토큰 생성 능력을 갖춘 목적기반 시스템으로, 기업이 민감한 데이터를 외부로 내보내지 않고 내부에서 대형 언어모델(LLM)과 생성형 AI를 활용할 수 있도록 설계된 인프라다. H2O.ai의 공동 창업자이자 CEO인 스리 암바티는 “규제 산업에서는 외부 클라우드에 모든 프롬프트를 보낼 수 없어, 에어갭 기반 주권형 AI(sovereign AI)에 대한 요구가 더욱 크다”며 “H2O와 델의 협업은 공공 클라우드 수준의 AI 성능을 기업 내에서 제공하는 데 초점을 맞췄다”고 말했다.

델 기술 혁신 부문 CTO 사티시 아이어는 “AI는 데이터를 기반으로 하기 때문에, 결국 중요한 데이터가 있는 곳에서 실행돼야 한다”며 “델은 초기부터 AI를 ‘데이터 중심’으로 접근해 왔으며, 이 철학은 모든 산업군, 특히 금융, 공공, 헬스케어, 통신 부문에서 강한 반향을 얻고 있다”고 밝혔다. 현재 델은 3,000곳 이상의 고객사를 AI 공장 인프라로 유치했으며, 이들은 민감한 워크로드를 외부 클라우드에 노출시키지 않고도 대형 및 소형 언어모델, 수직 특화형 AI를 운영할 수 있다.

많은 주목을 받는 범용 에이전트들과 달리, 실제 기업 가치는 특정 도메인에 최적화된 ‘에이전틱(agentic)’ 워크플로우에서 발생하고 있다. H2O.ai의 슈퍼에이전트(Superagent)는 복잡한 비즈니스 명령을 실행 가능한 코드로 전환해 정확하고 안정적인 자동화를 가능하게 한다. 암바티는 “기업들이 각자의 업무에 특화된 AI 플랫폼을 개발해 나가기 시작했고, 이는 에이전트 기반 기술의 빠른 확산으로 이어지고 있다”며 “단순한 흐름 자동화를 넘어 생산성과 효율성 증대라는 측면에서 큰 전환점”이라고 설명했다.

에이전틱 AI는 대형 일반 모델보다 작지만 특정 목적에 맞춘 설계로, 현장 중심의 실질적인 문제를 해결하는 데 더욱 효과적으로 작용한다. AI 워크플로우 맞춤형 최적화는 기업 전체 시스템 아키텍처의 근간을 다시 구성하고 있으며, 이는 곧 ‘AI 공장’이라는 개념과 맞물려 차세대 데이터 센터 생태계를 정의하는 흐름으로 번지고 있다.

이처럼 델과 H2O.ai가 협력해 주권형 인프라 및 도메인 특화 에이전트를 중심으로 구축한 ‘AI 공장’은 단순히 기술적 진보를 넘어, 민감한 데이터를 안전하게 유지하면서 동시에 기업의 AI 활용 가치를 극대화할 수 있는 해법으로 떠오르고 있다. AI 산업의 진화가 추상적인 개념에서 실제적인 비즈니스 실행으로 발돋움하는 지금, AI 공장은 그 전환의 핵심 거점이 되고 있다.