그래파나랩스, ‘AI 블랙박스’ 들여다보는 관측 기능 공개

그래파나랩스가 기업용 인공지능(AI) 운영의 ‘블랙박스’를 들여다볼 수 있는 새 관측 기능을 내놨다. AI 에이전트가 실제 업무에 빠르게 투입되는 가운데, 기업이 응답 품질과 정책 위반, 데이터 유출 위험까지 한 번에 파악할 수 있도록 하겠다는 구상이다.

이번 발표는 스페인 바르셀로나에서 열린 연례 사용자 행사 ‘그래파나콘 2026’에서 나왔다. 그래파나랩스는 이 자리에서 신규 AI 기능과 함께 전담 ‘AI 조직’ 신설도 공개했다. 새 조직은 신임 AI 디렉터 맷 라이어(Mat Ryer)가 이끈다.

기존 모니터링으로는 AI 에이전트 추적 어려워

그래파나랩스에 따르면 최근 많은 기업이 자동화 고도화를 위해 AI 에이전트를 업무 흐름에 붙이고 있다. 문제는 AI 애플리케이션이 기존 소프트웨어와 작동 방식이 크게 다르다는 점이다. 전통적인 로그, 메트릭, 추적 도구만으로는 에이전트의 판단 과정과 실행 흐름을 충분히 파악하기 어렵다.

이 때문에 개발자들은 오류를 디버깅하기도 까다롭고, 깃허브 코파일럿이나 커서 같은 코딩 환경과 별도 관측 도구를 계속 오가야 했다. 그래파나랩스는 이런 단절이 AI 운영의 신뢰성과 생산성을 함께 떨어뜨린다고 보고 있다.

AI 대화와 세션도 ‘텔레메트리’처럼 수집

회사의 해법은 AI 에이전트 세션과 대규모언어모델(LLM) 대화를 기존 애플리케이션의 로그·메트릭·트레이스처럼 표준 ‘텔레메트리’ 신호로 다루는 것이다. 이렇게 하면 기업은 AI 에이전트의 동작을 전체 정보기술(IT) 인프라 맥락 안에서 함께 모니터링할 수 있다.

핵심 업데이트는 그래파나 클라우드에서 공개 프리뷰로 출시된 ‘AI 관측’ 기능이다. 이 기능은 AI 에이전트의 입력값과 출력값, 실행 흐름을 관찰해 저품질 응답이나 정책 위반, 이상 행위를 지속적으로 감시한다. 그래파나랩스는 기존 관측 도구보다 데이터 노출이나 자격 증명 유출 같은 위험 신호를 더 빠르게 드러낼 수 있다고 설명했다.

개발 환경 안으로 들어온 새 명령줄 도구

개발자를 위한 변화도 크다. 그래파나랩스는 새로운 명령줄 인터페이스인 그래파나 클라우드 CLI, ‘GCX’를 선보였다. 이 도구는 개발자가 일하는 환경 안에서 바로 그래파나 어시스턴트를 호출할 수 있도록 설계됐다.

이에 따라 개발자는 별도 대시보드로 이동하지 않고도 클로드 코드나 깃허브 코파일럿 같은 환경에서 실시간으로 운영 중인 AI 에이전트를 살펴볼 수 있다. 경고와 코드 상태를 연결해 보고, 수정 제안까지 바로 받는 ‘연속 피드백’ 흐름을 만드는 것이 목표다.

로그 엔진 개편… 대규모 AI 데이터 처리 강화

백엔드 인프라도 손봤다. 그래파나랩스는 AI 시스템이 쏟아내는 방대한 데이터를 감당하기 위해 핵심 관측 엔진을 개편하고 있다고 밝혔다. 중심에는 로그 집계 도구 ‘그래파나 로키 에볼루션’이 있다.

로키는 아파치 카프카 기반 아키텍처로 처음부터 다시 설계됐고, 새로운 쿼리 플래너도 적용됐다. 회사 측은 집계 쿼리 성능이 기존보다 10배 빨라졌고, 스캔하는 데이터 양은 20분의 1 수준으로 줄었다고 설명했다. AI 관측 수요가 커질수록 저장·검색 비용과 성능은 핵심 경쟁력이 될 가능성이 크다.

온프레미스 확대와 오픈소스 실험도 병행

기존에 그래파나 클라우드에서만 쓸 수 있었던 ‘그래파나 어시스턴트’는 이제 온프레미스 기반 그래파나 엔터프라이즈 환경으로도 확대된다. 데이터 프라이버시 요구가 높은 기업 고객을 겨냥한 조치다. 여기에 전체 화면 상호작용이 가능한 ‘어시스턴트 워크스페이스’, 외부 도구로 그래파나 인사이트를 꺼내 쓸 수 있는 ‘어시스턴트 API’도 추가됐다.

오픈소스 커뮤니티를 위한 새 벤치마킹 도구 ‘o11y-bench’도 공개했다. 이 도구는 실제 그래파나 스택 환경에서 AI 에이전트가 깨진 대시보드를 고치거나 장애를 조사하는 등 현실적인 작업을 얼마나 잘 수행하는지 측정한다. 그래파나랩스는 이를 AI 관측 에이전트의 성능을 평가하는 일종의 표준화된 ‘IQ 테스트’로 제시했다.

AI 운영의 ‘감독자’ 자리 노린 장기 전략

이번 발표의 핵심은 단순 기능 추가를 넘어선다. 앞으로 AI 에이전트가 기업 운영에 본격 투입되려면, 그 위에서 동작을 감시하고 문제를 바로잡는 ‘감독자’ 역할이 필요하다는 판단이 깔려 있다.

그래파나랩스가 전담 AI 조직까지 꾸린 것은 AI 관측, 어시스턴트 경험, 에이전트 기반 워크플로를 하나로 묶겠다는 장기 전략으로 읽힌다. AI가 기업 시스템 깊숙이 들어갈수록 ‘신뢰할 수 있는 관측’은 선택이 아니라 필수 인프라가 될 가능성이 크다.