구글, ‘에이전틱 AI’ 겨냥 초대형 데이터센터 네트워크 ‘버고’ 공개…지연·장애 대응 강화

구글이 ‘에이전틱 AI’ 시대에 맞춘 초대형 데이터센터 네트워크와 크로스클라우드 인프라를 공개했다. AI가 밀리초 단위로 외부 도구를 호출하는 환경이 확산되면서, 지연시간을 줄이고 대규모 연산을 안정적으로 처리할 수 있는 기반 경쟁이 본격화하는 분위기다.

구글은 24일 자사 신규 AI 인프라 네트워크 시스템 ‘버고 네트워크(Virgo Network)’를 발표했다. 이 시스템은 가속기 클러스터 내부는 물론, 메모리·연산·스토리지 자원을 함께 오가는 데이터센터 전반의 통신 속도를 높이도록 설계됐다.

핵심은 네트워크 구조를 ‘평탄화’한 데 있다. 데이터가 이동할 때 거치는 계층 수를 줄여 병목을 낮추는 방식이다. 구글에 따르면 버고 네트워크는 최대 13만4000개의 칩을 연결할 수 있으며, 여기에는 8세대 TPU 8t 학습용 프로세서도 포함된다. 양방향 대역폭은 초당 최대 47페타비트(Pbps)에 달한다. 회사 측은 이전 세대와 비교해 가속기당 대역폭이 4배 이상 향상됐다고 설명했다.

이번 발표에서 눈에 띄는 부분은 단순한 속도 경쟁을 넘어 ‘복원력’까지 전면에 내세웠다는 점이다. 초대형 AI 클러스터에서는 장애와 지연, 일부 장비의 속도 저하가 사실상 불가피하다. 구글은 이를 해결하기 위해 네트워크 전반의 상태를 세밀하게 관측하는 ‘가시성’ 기능과 자동 우회·복구 소프트웨어를 결합했다고 밝혔다. 네트워크 지연이나 장애가 발생해도 전체 처리량이 급격히 흔들리지 않도록 독립적인 스위칭 플레인을 적용한 것도 특징이다.

구글은 버고 네트워크를 기존 데이터센터 확장의 연장선이 아니라, ‘캠퍼스 전체를 하나의 슈퍼컴퓨터처럼’ 설계한 별도 인프라 제품으로 설명했다. 시스템 상태를 1밀리초보다 짧은 단위로 모니터링해 일시적 혼잡과 버퍼 관리 문제까지 하드웨어·소프트웨어 전 구간에서 최적화할 수 있다는 주장이다. 이는 에이전틱 AI가 도구 호출과 추론, 검색증강생성(RAG) 작업을 동시에 처리해야 하는 환경에서 특히 중요하다.

클라우드 경계 허무는 연결·보안 계층도 함께 발표

구글은 데이터센터 네트워크와 함께 에이전틱 AI 워크로드를 위한 클라우드 연결성과 보안 계층도 공개했다. 회사는 이번 업데이트를 ‘유동적 컴퓨트’, ‘보안 크로스클라우드 연결’, ‘통합 데이터 레이어’, ‘디지털 주권’의 네 축으로 제시했다.

먼저 ‘유동적 컴퓨트’는 AI 에이전트의 들쭉날쭉한 연산 수요를 보다 효율적으로 처리하기 위한 구조다. AI 서비스는 순간적으로 요청이 몰리는 경우가 많은데, 구글은 이를 보다 빠르고 경제적으로 감당할 수 있도록 CPU 접근성을 높였다고 설명했다. 특히 추론과 에이전트 오케스트레이션, 검색증강생성 같은 작업에 최적화된 CPU 자원을 제공해 그래픽처리장치(GPU)를 보완하도록 설계했다.

이를 위해 구글 컴퓨트 엔진과 구글 쿠버네티스 서비스 기반 가상머신(VM)에 C4N, M4N CPU를 적용했다. 구글은 해당 시스템이 초당 최대 9500만 패킷을 처리할 수 있고, 주요 하이퍼스케일러 대비 최대 40% 빠르다고 밝혔다.

보안 크로스클라우드 연결 분야에서는 ‘에이전트 게이트웨이’를 전면에 내세웠다. 이 컨트롤러는 AI 에이전트의 접근 권한을 감시하고, 모델 컨텍스트 프로토콜(MCP)과 에이전트 투 에이전트(A2A) 같은 프로토콜을 기본적으로 통제·관리한다. 멀티클라우드 환경에서 서로 다른 네트워크 사이를 오가는 데이터 흐름까지 가시성을 확보하고 보호할 수 있다는 설명이다.

‘데이터 이동’ 대신 ‘데이터가 있는 곳으로 AI’

통합 데이터 레이어는 기업들이 여러 저장소에 흩어둔 데이터를 AI가 직접 이해하고 활용할 수 있도록 만드는 데 초점이 맞춰졌다. 구글은 ‘스마트 스토리지’가 데이터 객체에 메타데이터를 심어, 기존의 ‘죽어 있는 데이터’를 AI가 읽을 수 있는 지식 자산으로 바꾼다고 밝혔다.

이 구조가 자리 잡으면 스프레드시트, 문서, PDF, 이미지 등 다양한 형식의 정보에 의미 기반 검색을 적용하고, 자동 주석과 인사이트 추출도 가능해진다. 데이터가 특정 저장소에 갇히는 ‘사일로’ 현상을 줄이고, AI 에이전트가 필요한 정보를 더 빠르게 찾도록 돕는 방식이다.

함께 공개된 ‘지식 카탈로그’는 기업 내부 지식을 그래프 형태로 연결해 AI 에이전트가 업무 구조와 맥락을 더 잘 이해하도록 지원한다. 구글은 이를 통해 데이터를 별도로 옮기지 않아도 AI 학습과 응답 고도화가 가능하다고 강조했다. 다시 말해, 데이터를 중앙으로 이동시키는 대신 AI 모델이 데이터가 있는 ‘프라이빗 환경’으로 들어가 작동하는 접근이다.

이번 발표는 AI 경쟁의 초점이 이제 모델 성능뿐 아니라, 이를 떠받치는 네트워크·보안·데이터 인프라로 빠르게 이동하고 있음을 보여준다. 특히 ‘에이전틱 AI’가 기업 업무에 본격 도입될수록, 낮은 지연시간과 높은 복원력, 멀티클라우드 통제가 핵심 경쟁력이 될 가능성이 크다. 구글의 이번 행보는 AI 인프라 주도권을 둘러싼 빅테크 경쟁이 한층 더 치열해졌다는 신호로 읽힌다.