AI 패권, 모델 아닌 ‘에이전틱 인프라’로 옮겨가나… 구글 클라우드의 승부수

구글 클라우드가 AI 경쟁의 주도권을 ‘모델 성능’보다 ‘제어 계층’과 데이터 인프라에서 찾고 있다는 분석이 나왔다. 기업용 AI 확산이 빨라지는 가운데, 실제 승부는 에이전트가 데이터를 읽고 연결하고 실행하는 ‘에이전틱 AI 인프라’에서 갈릴 가능성이 크다는 평가다.

더큐브리서치의 존 퍼리어 수석 애널리스트는 구글 클라우드 넥스트 2026 행사 분석에서 구글이 에이전틱 엔터프라이즈의 운영체제 역할을 노리고 있다고 진단했다. 그는 데이터와 각종 시스템을 연결하는 ‘컨트롤 플레인’을 누가 쥐느냐가 시장 우위를 좌우할 수 있다고 봤다. 이 계층은 기업 내 여러 애플리케이션과 데이터 흐름을 묶는 신경망 같은 역할을 한다.

기업 현장에서는 이미 AI 도입 속도가 크게 빨라지고 있다. 일부 기업은 코드 작성 업무에서 사람보다 기계 비중이 더 높아졌다고 평가할 정도다. 다만 모든 조직이 같은 속도로 움직이는 것은 아니다. 어떤 업무에 AI를 먼저 적용해야 가장 큰 효과가 나는지 판단하지 못한 기업도 적지 않다. 이런 상황은 데이터, 보안, 거버넌스, 실행 환경을 함께 설계하는 에이전틱 AI 인프라의 중요성을 더 키우고 있다.

핵심은 ‘문맥 데이터’… 정확한 정보보다 ‘가장 적절한 정보’가 중요

구글 클라우드는 AI 모델의 한계를 보완하는 열쇠로 ‘문맥 데이터’를 제시했다. 구글 클라우드 데이터베이스 엔지니어링 총괄 세일레시 크리슈나무르티는 모델 자체는 매우 강력하지만, 실제 기업 업무에 필요한 맥락은 데이터 안에 들어 있다고 설명했다. 질문에 답하려면 단순히 많은 정보를 넣는 것이 아니라, ‘지금 필요한 정보’를 정확히 꺼내줘야 한다는 뜻이다.

이 때문에 차세대 데이터 클라우드는 기존 데이터베이스와 달라야 한다는 설명도 나온다. 단순 저장·조회 기능을 넘어 그래프 탐색, 벡터 임베딩, 전문 검색, 관계형 연산을 한 시스템 안에서 처리해야 한다는 것이다. 데이터 이동을 최소화하면서도 최적의 결과를 제공해야 대규모 기업 환경에서 에이전틱 AI 인프라가 제대로 작동할 수 있다.

오픈텍스트도 같은 문제의식을 공유했다. 오픈텍스트는 구글 클라우드와 함께 문맥 엔지니어링, 데이터 주권, 개방형 상호운용성을 기반으로 한 에이전트 스택을 구축하고 있다. 오픈텍스트 측은 기업 정보가 단순한 파일 저장이 아니라 분류·태깅·거버넌스·업무 프로세스와의 연결까지 포함한 체계라는 점을 강조했다. 이 정보를 대형언어모델에 연결하려면 불필요한 데이터 홍수를 막고, 필요한 정보만 적시에 전달해야 한다는 설명이다.

구글은 여기에 제미나이 엔터프라이즈 에이전트 플랫폼을 깊이 통합해, 수십 년간 축적된 기업 문서를 안전하게 활용할 수 있는 산업별 솔루션도 확대하고 있다. 이는 AI 도입의 성패가 모델의 화려함보다 데이터 품질과 접근 구조에 달려 있다는 점을 다시 보여준다.

하이브리드 환경과 비용 절감… 파트너십이 AI 인프라 효율 좌우

AI 인프라 경쟁은 단일 기업의 힘만으로 끝나지 않는다. 구글은 엔비디아, 델 테크놀로지스, AMD 등과 협력해 클라우드와 온프레미스를 아우르는 ‘AI 준비 인프라’를 구축하고 있다. 특히 보안과 규제를 이유로 데이터를 외부 클라우드에 완전히 맡기기 어려운 기업이 많은 만큼, 구글 분산형 클라우드를 통해 온프레미스에서도 제미나이의 기능을 활용하도록 지원하고 있다.

이 과정에서 쿠버네티스의 역할도 커지고 있다. 구글은 쿠버네티스를 학습부터 추론, 강화학습까지 아우르는 AI의 사실상 운영체제로 보고 있다. 여러 환경에 흩어진 AI 에이전트를 조율하는 핵심 도구가 쿠버네티스라는 의미다. 기업이 멀티클라우드나 하이브리드 구조를 유지한 채 AI를 확장하려면 이 같은 오케스트레이션 계층이 필수적이다.

비용 문제도 중요한 변수다. AMD는 기업 고객 상당수가 자체 데이터센터와 클라우드를 병행하는 상황에서 x86 기반 인프라가 가장 현실적인 대안이라고 설명했다. 컨테이너 워크로드를 양쪽 환경에 쉽게 옮길 수 있고, 별도 코드 수정 없이 성능과 비용 효율을 동시에 확보할 수 있기 때문이다.

실제 미국 여행 기술 기업 세이버는 구글 클라우드에서 5만 개 이상의 가상 CPU를 AMD 기반 인스턴스로 이전한 뒤 비용 절감과 성능 개선을 동시에 경험했다고 밝혔다. 코드 수정 없이 더 작은 인프라 풋프린트로 더 빠른 처리 성능을 얻었고, 여기서 확보한 예산을 다시 에이전틱 AI 투자로 돌릴 수 있었다는 설명이다.

구글은 생태계 확대에도 큰돈을 걸고 있다. 구글 클라우드 파트너 네트워크 강화를 위해 7억5000만달러, 원화 약 1조1073억7500만원을 투입해 12만 개 이상 회원사의 성과를 끌어올리겠다는 계획이다. 파트너사의 에이전트가 구글 측 시스템과 상호작용하며 온보딩, 교육, 추천 업무를 자동화하는 구조도 구상 중이다.

AI는 ‘어려운 문제’에 써야 효과… 단순 자동화 넘어 고객 경험 개선

맥킨지는 AI 투자 대비 성과가 기대에 못 미친다고 느끼는 기업일수록 더 큰 문제를 겨냥해야 한다고 조언했다. 맥킨지의 아수토시 파디 선임 파트너는 눈에 띄는 가치를 만들려면 기업 전체의 판을 흔들 수 있는 과제부터 시작해야 한다고 말했다. 단순한 실험성 프로젝트는 성공해도 조직 전체가 주목하지 않지만, 핵심 사업 문제를 풀면 변화관리와 역량 구축도 함께 따라온다는 설명이다.

미국 최대 주정부 기반 건강보험 마켓플레이스인 커버드 캘리포니아는 이런 사례로 제시됐다. 이 기관은 딜로이트컨설팅, 구글과 협력해 구글 도큐먼트 AI를 도입했고, 가입 자격과 등록 검증 업무를 대폭 자동화했다. 그 결과 연간 약 2만4000시간의 운영 시간을 절감한 것으로 추산됐다. 기존에 문서 검증에 최대 72시간이 걸리던 작업은 몇 초 만에 끝나게 됐다.

이는 단지 인건비 절감에 그치지 않았다. 반복적인 서류 처리에서 벗어난 직원들이 더 가치 높은 고객 지원에 집중할 수 있게 되면서, 서비스 품질과 고객 경험도 개선됐다는 평가가 나왔다. 딜로이트는 AI가 인간의 역할을 대체하는 것이 아니라, 오히려 사람이 사람다운 업무에 집중하게 만드는 도구가 될 수 있다고 해석했다.

구글 클라우드 넥스트 2026이 던진 메시지는 분명하다. AI 경쟁의 중심은 더 이상 ‘누가 더 똑똑한 모델을 만들었는가’에만 있지 않다. 기업 시장에서는 데이터 문맥, 제어 계층, 하이브리드 인프라, 비용 효율, 파트너 생태계를 함께 묶는 에이전틱 AI 인프라가 실제 승부처로 떠오르고 있다. 앞으로 AI 도입 성패는 모델 자체보다 이를 기업 환경에 얼마나 안정적이고 유연하게 연결하느냐에 달려 있을 가능성이 크다.