AI가 불러온 복잡성… 기업들, '관측 가능성' 도구에 몰린다

AI 기술이 빠르게 진화하면서 그 복잡성도 함께 증가하는 가운데, 신뢰성과 예측 가능성을 확보하기 위한 ‘관측 가능성(observability)’ 프레임워크의 중요성이 다시금 주목받고 있다. AWS re:Invent 2025 행사에 참석한 크리스틴 옌(Christine Yen) 허니콤(Honeycomb) 최고경영자는 "AI 시대에 코드가 많아질수록 문제가 늘어난다"며, 이러한 복잡한 시스템을 이해하고 신뢰할 수 있도록 돕는 관측 가능성 도구의 역할이 갈수록 커지고 있다고 강조했다.

허니콤은 오픈소스 기반 오픈텔레메트리(OpenTelemetry)를 활용해 코드의 실행 상태를 시각화하고 분석할 수 있는 플랫폼을 제공하고 있다. 많은 개발자와 기업이 AI 보조 도구를 업무에 적극 도입하고 있지만, 이런 자동화 도구들이 때때로 ‘잘못된 확신(hallucination)’을 생성하기 때문에 소프트웨어가 실제로 어떤 동작을 수행하는지 파악하는 것이 필수가 되고 있다. 옌 대표는 "AI 에이전트가 점점 더 자율적으로 의사결정을 내려가는 상황에서, 소프트웨어의 실제 실행 결과와 개발자의 기대가 일치하는지를 지속적으로 검증할 수 있어야 한다"고 설명했다.

실제로 허니콤은 최근 자사 플랫폼을 프라이빗 클라우드 환경에서도 사용할 수 있도록 확대했으며, 다이나트레이스의 오픈텔레메트리 기준을 적용해 메트릭 데이터를 보다 투명하게 관리할 수 있도록 준비 중이다. 이는 기업 고객들에게 데이터에 대한 통제력과 신뢰성을 동시에 제공하기 위한 조치로, AI 활용에 따른 불확실성을 줄이는 데 초점을 맞추고 있다.

AI가 인간의 직무를 대체할 것이라는 우려에 대해서는, 오히려 사람의 직관과 맥락적 해석 능력이 그 어느 때보다 중요하다고 옌 대표는 강조했다. 그는 의료 현장을 예로 들며 "의사가 스스로 가설을 세우고 이를 자동화 도구를 통해 검증했을 때 진단 능력이 향상된다는 연구 결과들이 있다"고 언급했다.

또한 허니콤은 AI 기반 가시성 도구 ‘캔버스(Canvas)’를 정식 출시했다. 캔버스는 AI 도우미와 인터랙티브 노트북 인터페이스를 결합한 작업 공간으로, 개발자가 복잡한 트레이스 데이터와 쿼리 결과를 직관적으로 탐색할 수 있도록 돕는다. 옌 대표는 이 도구에 대해 “기존의 관측 가능성 도구가 기술적이고 진입장벽이 높게 느껴졌던 반면, 캔버스는 팀원 누구나 쉽게 사용할 수 있는 환경을 마련해준다”고 소개했다.

AI 시스템의 실시간 모니터링과 성능 최적화를 위해 관측 가능성 플랫폼에 대한 기업들의 수요는 앞으로도 지속적으로 확대될 전망이다. 특히 대규모 언어 모델과 자율적 에이전트 기반 시스템이 다양한 산업에 퍼져나가고 있는 지금, 이러한 기술을 투명하고 신뢰할 수 있는 방식으로 운영하기 위한 접근 방식으로서 ‘관측 가능성’의 가치는 더욱 높아질 것으로 보인다.