그라운드커버, 에이전트형 AI 추적 강화…구글 버텍스 AI 네이티브 지원

애플리케이션 관측성 스타트업 그라운드커버가 ‘AI 관측성’ 기능을 대폭 확장했다. 이번 업데이트로 에이전트형 AI 시스템에 대한 추적 기능을 강화하고, 구글 클라우드의 관리형 AI 플랫폼 ‘구글 버텍스 AI’와도 완전 호환되는 네이티브 지원을 추가했다.

이번 확장은 기업들이 대규모언어모델(LLM)을 실제 서비스 환경에 빠르게 도입하는 과정에서 생긴 ‘가시성 공백’을 메우는 데 초점이 맞춰졌다. 기존 관측성 도구는 정해진 규칙대로 동작하는 전통적 소프트웨어를 전제로 설계된 경우가 많아, 프롬프트와 응답이 실시간으로 바뀌는 AI 시스템에서는 한계가 뚜렷했다. 이 때문에 개발팀과 플랫폼 운영팀은 어떤 입력이 어떤 결과를 만들었는지, 응답이 왜 달라졌는지, 또 비용이 어디서 얼마나 발생하는지 파악하기 어려웠다.

그라운드커버는 이런 문제를 해결하기 위해 LLM 상호작용의 전체 맥락을 포착하고, 점점 복잡해지는 다단계 AI 시스템에서 결과가 어떻게 생성되는지 추적할 수 있도록 기능을 고도화했다. 특히 운영 환경에 별도 계측 작업 없이 관측성을 빠르게 적용할 수 있다는 점을 핵심 강점으로 내세웠다.

오르 벤저민 그라운드커버 제품 담당 부사장은 “고객들은 LLM 호출이 운영 관측성 팀의 시야 밖에 놓여 있었다고 말해왔다”며 “프롬프트, 응답, 비용을 체계적으로 이해할 수 있는 방법을 원했고, 기존 관측성 수요에 더해 대규모·핵심 업무용 AI 모니터링 요구에 대응해 AI 관측성을 개발했다”고 설명했다.

에이전트 추적 가시성

이번 업데이트에서 가장 눈에 띄는 변화는 ‘에이전트 추적 가시성’이다. 이를 통해 각 모델 호출은 물론, 도구 실행 과정과 인자, 실행 결과, 그리고 그 사이의 추론 경로까지 한 번에 확인할 수 있다. 여러 단계를 거치는 에이전트형 AI 워크플로를 운영하는 기업 입장에서는 문제 원인 파악과 성능 개선이 한층 쉬워질 수 있다.

비용 관리 기능 강화

비용 관리 기능도 강화됐다. 새로 추가된 정확한 비용 귀속 기능은 프롬프트 캐싱까지 반영해 토큰 비용을 세부 실행 단위에서 추적할 수 있도록 설계됐다. 일반 입력 토큰, 캐시 생성 토큰, 캐시 읽기 토큰을 구분해 최신 LLM API의 복잡한 과금 구조를 보다 정확히 반영한다. 이에 따라 팀들은 특정 에이전트 실행이나 세션이 실제로 얼마의 비용을 발생시켰는지 보다 명확하게 확인할 수 있다.

구글 버텍스 AI 지원

여기에 구글 버텍스 AI 지원도 추가됐다. 이제 구글 클라우드 기반에서 AI 서비스를 구축하는 기업들도 별도 계측 없이 관련 관측성 데이터를 자동으로 수집할 수 있다. 회사 측은 모든 관측성 데이터가 고객 자체 환경 안에 머물도록 설계해 보안과 데이터 통제 측면도 고려했다고 설명했다.

그라운드커버의 AI 관측성 기능은 현재 모든 고객에게 일반 제공 방식으로 자동 배포되고 있다. 회사는 이번 신규 기능을 4월 22일부터 24일까지 열린 ‘구글 클라우드 넥스트’ 행사에서도 시연했다고 밝혔다.

AI 서비스가 실험 단계를 넘어 실제 운영 환경으로 빠르게 이동하는 가운데, ‘AI 관측성’은 단순한 모니터링을 넘어 품질, 비용, 신뢰성 관리의 핵심 영역으로 부상하고 있다. 이번 기능 확장은 기업들이 에이전트형 AI를 더 안정적으로 운영하는 데 필요한 기반을 넓히려는 움직임으로 해석된다.