네트워크 인프라와 인공지능의 융합이 가속화되는 가운데, AI 주도형 네트워킹의 미래가 업계의 중심 과제로 떠오르고 있다. 오랜 기간 서로 다른 공급업체의 시스템을 그때그때 연결한 조각난 인프라는 더 이상 정밀성 중심의 AI 네트워크를 감당할 수 없다는 위기감이 커지고 있다. 이에 따라, 일관성과 제어력을 바탕으로 전면 재설계된 인프라가 요구되고 있다는 목소리가 높아진다.

미국 스타트업 미터(Meter Inc.)의 아닐 바라나시(Anil Varanasi) 최고경영자(CEO)는 최근 열린 ‘네트워킹 포 AI 서밋’에서 “지난 40년간 네트워크 업계에는 하나의 통합 플랫폼 위에 하드웨어·소프트웨어·운영체제·데이터 파이프라인을 모두 아우르는 완전체 스택을 처음부터 끝까지 설계한 사례가 사실상 없었다”고 말했다. 바라나시 CEO는 “미터는 모든 계층이 단일 펌웨어 이미지와 API, 애플리케이션으로 통합된 최초의 전사적 네트워크 스택을 구현하고 있다”며 차별성을 강조했다.

그는 AI 기반의 네트워크가 기존의 창의성이 중요한 생성형 AI 모델과는 근본적으로 다르다고 설명한다. 네트워킹에 필요한 건 정밀함과 결정론적 결과이며, 잘못된 결과가 허용되지 않는 만큼 창의성 대신 정확성이 요구된다는 것이다. 바라나시 CEO는 “네트워크에서는 예측 가능한 행동이 핵심이며, 이는 모든 층위에서 데이터 제어권을 자체적으로 가지고 있어야만 가능하다”고 덧붙였다.

문제는 정확하고 안정적인 AI 모델을 구축하려면 엄청난 연산력과 반복적인 학습이 전제돼야 하며, 이는 웬만한 기업 입장에서는 감당하기 어려운 부담이 된다는 점이다. 그는 “마케팅 수사만 앞세우는 기존 업체들과 차별화되는 지점은 실제 연산 리소스 능력에 있다”며 “AI를 내세우는 네트워크 업체라면, 우선 그들이 보유한 GPU 연산 자원이 어느 수준인지부터 점검해야 한다”고 지적했다. 미터는 마이크로소프트(MSFT)와 협력해 자사의 AI 모델 학습에 필요한 GPU 클러스터를 확보하고 있다.

AI 중심 네트워크 아키텍처는 이제 실험적 기술이 아닌, 교육기관부터 글로벌 대기업까지 광범위하게 확산될 수 있는 전환점에 서 있다. 단순한 속도 향상을 넘어 데이터 주도 기반의 네트워크 자동화와 예측적 점검이 가능한 체계로 발전 중이다. 이를 가능하게 만드는 핵심 조건은 완전한 스택 통합과 자체 데이터 통제권이다. AI 네트워킹 시대를 진정으로 선도하려면, 이제 정밀한 설계와 고도화된 연산능력이라는 두 가지 축을 동시에 충족시켜야 한다는 요구가 명확히 드러나고 있다.