구글, ‘행동형 AI’로 전환 가속…TPU 8 내세워 통합 에이전트 플랫폼 승부

기업용 인공지능(AI) 시장의 무게중심이 빠르게 바뀌고 있다. 질문에 답하고 콘텐츠를 만드는 단계에서, 실제 업무를 수행하고 의사결정까지 돕는 ‘에이전트형 AI’ 시대로 넘어가고 있다는 분석이다. 구글 클라우드 최고경영자 토머스 쿠리안(Thomas Kurian)은 이 변화가 단순한 기능 추가가 아니라, 인프라와 소프트웨어 구조 전반의 재설계를 요구한다고 강조했다.

최근 열린 ‘구글 클라우드 넥스트 2026’에서 구글은 차세대 TPU 8과 데이터·AI 플랫폼, 에이전트 플랫폼을 함께 제시했다. 핵심 메시지는 분명했다. 반도체부터 클라우드 인프라, 데이터 스택, AI 모델, 애플리케이션까지 하나의 통합 체계로 묶어야 대규모 ‘행동형 AI’를 안정적으로 굴릴 수 있다는 주장이다. 시장에서는 이를 두고 구글이 ‘풀스택 AI’ 주도권 경쟁에 본격적으로 승부수를 던졌다는 평가가 나온다.

TPU 8은 전면에, 본질은 ‘통합 플랫폼’ 경쟁

표면적으로 가장 눈에 띈 발표는 TPU 8이었다. 구글은 새 칩이 성능과 확장성 측면에서 큰 개선을 이뤘다고 설명했지만, 업계 시선은 단순한 반도체 성능보다 그 전략적 의미에 쏠렸다. TPUs는 구글이 자사 AI 서비스를 더 빠르고 저렴하게 운영할 수 있게 해주는 핵심 기반이기 때문이다.

다만 이는 엔비디아와의 정면 대결로 보긴 어렵다. 여전히 많은 개발자와 기업은 엔비디아의 쿠다(CUDA) 생태계에 의존하고 있고, 구글 역시 이를 배제하기보다 선택지를 넓히는 방향으로 접근하고 있다. 다시 말해 TPU는 엔비디아를 대체하는 무기라기보다, 구글이 하드웨어와 소프트웨어를 더 촘촘히 결합해 차별화를 노리는 수단에 가깝다.

시장 조사기관과 업계 분석가들은 이번 발표의 진짜 포인트가 TPU 8 그 자체보다, 구글이 이를 데이터 플랫폼과 프론티어 AI 모델, 에이전트 플랫폼 서사로 연결했다는 점이라고 짚는다. 반도체-데이터-AI 모델-업무 실행이 하나의 흐름으로 이어지는 구조를 구글이 앞세우기 시작했다는 의미다.

‘SaaS’에서 ‘서비스형 소프트웨어’로

이번 변화는 기존 소프트웨어 산업의 틀도 흔들고 있다. 과거 온프레미스에서 서비스형 소프트웨어(SaaS)로 넘어갈 때는 소프트웨어 공급 방식과 운영 모델이 바뀌었다면, 이제는 소프트웨어가 실제 업무 결과를 직접 만들어내는 ‘서비스형 소프트웨어’ 단계로 진화하고 있다는 진단이다.

이 전환의 중심에는 AI 에이전트가 있다. 문제는 에이전트가 부서별 시스템에 갇혀 있으면 가치가 제한된다는 점이다. 단순 반복 업무 자동화는 가능하지만, 채용부터 온보딩까지 걸리는 시간을 줄이거나 견적부터 수금까지의 병목을 없애는 식의 전사적 성과 개선으로 이어지기는 어렵다.

결국 기업 내 여러 데이터와 업무 시스템을 연결하는 ‘지능의 계층’이 필요하다. 구글이 공개한 ‘지식 카탈로그(Knowledge Catalog)’는 이런 방향의 출발점으로 읽힌다. 기업 전반의 분석 데이터와 운영 데이터를 하나의 맥락으로 묶어, AI가 ‘무엇이 벌어지고 있는지’를 이해하도록 돕는 구조다.

데이터 플랫폼 경쟁, 이제는 ‘디지털 트윈’으로 확장

업계는 데이터 플랫폼의 성숙 단계를 단순한 보고서 작성에서 ‘기업의 디지털 트윈’ 구축으로 옮겨가고 있다고 본다. 디지털 트윈은 기업 안의 사람, 자산, 프로세스, 활동을 실시간으로 반영하는 디지털 표현체다. AI 에이전트가 부정확한 단편 정보가 아니라, 기업의 살아 있는 상태를 바탕으로 판단하고 행동하려면 이런 구조가 필요하다.

초기 단계에서는 부서별 데이터와 보고 체계가 중심이었다. 이후 빅쿼리(BigQuery), 스노우플레이크, 데이터브릭스 같은 플랫폼이 등장하며 셀프서비스 분석 환경이 넓어졌지만, 여전히 부서별 진실이 따로 존재하는 경우가 많았다. 다음 단계는 실시간 이벤트와 운영 데이터를 함께 반영해 기업 활동을 더 실제에 가깝게 모델링하는 것이다.

세일즈포스와 SAP도 이 방향으로 움직이고 있지만, 구글은 빅쿼리와 스패너(Spanner), 메타데이터 계층을 묶어 하이퍼스케일러 가운데 드물게 스노우플레이크·데이터브릭스와 정면 경쟁할 수 있는 데이터 플랫폼을 갖췄다는 평가를 받는다. 이번 에이전트 전략은 이 데이터 기반 위에서 나온 연장선에 가깝다.

에이전트 확산의 핵심은 ‘안전한 실행’

기업 AI에서 가장 어려운 지점은 생성형 AI의 유연함과 기업 시스템의 엄격함을 연결하는 일이다. AI는 문장을 만들고 아이디어를 제시하는 데 강하지만, 실제 업무는 규칙과 권한, 감사 추적, 책임소재가 분명해야 한다. 그래서 업계는 에이전트가 작동하려면 ‘창의성’ 위에 ‘결정론적 실행 계층’이 깔려야 한다고 본다.

예컨대 에이전트가 목표를 수행하더라도 어떤 조건에서 어떤 행동이 허용되는지, 실행 전후 무엇이 충족돼야 하는지, 결과를 어떻게 기록할지를 함께 정의해야 한다. 이런 구조가 있어야 ‘똑똑한 AI’가 아니라 ‘안전하게 운영 가능한 AI’가 된다.

이 과정에서 기업 지식 그래프, 행동 규칙 계층, 실시간 디지털 트윈, 자율 운영 플랫폼 같은 개념이 중요해진다. 한마디로 AI가 엑셀 파일과 대시보드를 참조하는 수준을 넘어, 기업의 실제 상태와 관계망을 탐색하며 규칙 안에서 행동할 수 있어야 한다는 얘기다.

구글의 강점과 한계도 분명

구글은 메타데이터 추출, 데이터 계보 관리, 비정형 문서 지식 그래프, 다단계 에이전트 평가 등에서 의미 있는 진전을 보였다. 특히 에이전트의 실패 사례를 묶어 개선 방향을 제시하는 최적화 기능은 단순한 데모를 넘어 ‘에이전트 운영’ 단계로 가려는 시도로 평가된다.

하지만 과제도 적지 않다. 가장 큰 숙제는 여러 시스템에 흩어진 같은 개체를 하나로 통합하는 문제다. 예를 들어 ‘고객’이라는 객체가 CRM, 회계, 고객지원, 물류 시스템마다 다르게 정의돼 있다면, AI가 이를 하나의 실체로 이해하기 어렵다. 데이터 품질 규칙과 비즈니스 용어집만으로는 부족하고, 실제 업무 프로세스 규칙까지 표현할 수 있어야 한다는 지적이 나온다.

또 하나는 인간 전문가의 ‘왜’까지 담아내는 일이다. 구글은 에이전트가 어떤 경로로 결론에 도달했는지 보여주는 기능을 강화하고 있지만, 그것만으로는 숙련된 직원의 판단 기준을 대체하기 어렵다. 규칙으로 설명되지 않는 예외 상황, 충돌하는 우선순위, 맥락 기반 판단은 여전히 사람의 경험에 크게 기대고 있기 때문이다.

코딩 에이전트가 여는 다음 경쟁

에이전트 플랫폼 경쟁의 또 다른 전장은 ‘코딩’이다. 업계는 범용 지식 노동 에이전트로 나아가는 가장 빠른 길이 코딩 에이전트라고 보고 있다. 에이전트가 외부 세계와 상호작용하려면 결국 다양한 도구를 호출해야 하고, 그 과정에서 코드를 작성·수정·실행하는 능력이 핵심이 되기 때문이다.

앤트로픽의 클로드 코드, 오픈AI의 코덱스 같은 흐름이 대표적이다. 구글은 별도 코딩 제품 하나를 전면에 내세우기보다, 이를 기업용 에이전트 플랫폼 전반에 � TP AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 기사를 요약했습니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.