인공지능 분야에 있어 '칩 전쟁'보다 더 중요한 것은 무엇일까. 최근 전문가들은 단순한 연산 능력이나 고성능 반도체가 아닌 ‘확장 가능한 지능(Scalable Intelligence)’이 진정한 경쟁력이라는 분석을 내놓고 있다. AI 공장(AI Factory)이라는 개념이 주목받는 지금, 단순한 하드웨어 도입으로는 기업들이 원하는 결과를 제공할 수 없다는 경고다.

데이터센터가 단순한 서버 장비의 집합이 아닌, 통합된 연산 엔진으로 재해석되고 있다. 문제는 이러한 기술적 진보가 어떻게 현실 기업의 가치로 전환될 수 있느냐다. 테코닉스(Tekonyx)의 시드 나그(Sid Nag) 최고연구책임자는 최근 뉴욕증권거래소와 실리콘앵글(SiliconANGLE)이 주최한 ‘AI 공장: 미래의 데이터센터’ 행사에서 "기업 입장에서는 인프라 그 자체가 아니라, 그것이 산출해내는 지능이 핵심"이라고 강조했다.

나그는 “CIO 입장에서 중요한 것은, 기술이 우리가 원하는 비즈니스 성과를 창출할 수 있느냐는 점이다. 이제는 단순한 인프라 투자로 끝나는 시대가 아니다”라고 말했다. 그는 AI 인프라를 구축하는 데 있어 단순히 빠른 칩을 제공하는 것이 아니라, 조직 내에서 실제로 의사결정에 활용될 수 있는 예측 가능하고 반복 가능한 결과를 만들어내야 한다고 역설했다.

그가 언급한 ‘AI 운영 모델’은 과거 클라우드 도입 초기를 연상시킨다. 당시 기업들은 물리적 서비스가 아니라 전사적인 운영 방식의 전환을 구매했다. 나그는 "AI 또한 하나의 운영 모델로 정의돼야 하며, 기업들이 이 모델을 활용해 지속적으로 성과를 낼 수 있어야 진짜 의미가 있다"고 설명했다.

이러한 맥락에서 AI 공장이 성공적인 모델로 작동하려면, 각 기업이 자체 데이터를 바탕으로 모델을 훈련하고 파인튜닝하며 추론까지 수행할 수 있는 환경이 필수적이다. 동시에, 이 모든 프로세스를 통합해줄 조율 엔진과 데이터 거버넌스 체계도 요구된다. 결과가 신뢰 가능하고 반복 가능해야 비로소 ‘확장 가능한 지능’이 실현되기 때문이다.

나그는 "확장 가능한 지능이란, 단순한 기술 혁신을 넘어 기업들이 실제로 사용할 수 있고, 전략에 반영할 수 있는 AI 시스템을 의미한다"고 덧붙였다. "모든 AI 벤더들이 이 가치를 중심으로 정렬된다면, 그것이 미래 AI 시장에서의 승부수가 될 것"이라고 전망했다.

이번 인터뷰는 실리콘앵글의 생중계 스튜디오 theCUBE를 통해 단독으로 방송됐으며, AI 인프라의 진화가 어떤 방향으로 흘러가고 있는지를 가늠할 수 있는 결정적 계기를 제공했다. 데이터의 홍수 속에서 중요한 것은 더 많은 연산이 아니라, 더 유의미한 지능을 산출해내는 체계라는 점이 다시 한번 확인된 셈이다.