기업의 디지털 전환이 가속화되면서 인공지능(AI) 기반 운영 지능, 즉 운영 인텔리전스가 새로운 패러다임으로 주목받고 있다. 특히, AI 에이전트가 다양한 업무에 투입되면서 데이터 품질 향상과 의사결정 속도 개선이라는 이점이 부각되고 있지만, 동시에 거버넌스와 책임소재, 변화통제라는 근본적 도전도 함께 수면 위로 떠오르고 있다.

AI 운영 인텔리전스 플랫폼을 개발한 패브릭스AI(Fabrix.ai)의 셰일레시 만즈레카르(Shailesh Manjrekar) 최고AI책임자 겸 마케팅 총괄은 최근 실리콘밸리에서 열린 'Agentic AI Unleashed: 디지털 및 IT 운영의 미래' 컨퍼런스에서 이 같은 ‘AI 가치 격차’에 대해 경고했다. 그는 “많은 기업들이 자율성과 에이전트 기반 자동화를 지향하지만, 실질적인 비즈니스 성과로 이어지는 경우는 드물다”며 “이 간극을 메우는 것이 향후 기업 AI 도입 성공의 핵심”이라고 강조했다.

단일 작업에서는 인상적인 성능을 보이지만, 이를 기업 전반의 스케일 가능한 시스템으로 전환하는 문제는 여전히 풀리지 않은 숙제다. 만즈레카르에 따르면, 이런 AI 가치 격차(AI value gap)를 해소하기 위해서는 LLM(대규모언어모델) 같은 기술 요소를 뛰어넘는 종합적 거버넌스와 통합 아키텍처가 필요하다.

패브릭스AI가 제안하는 방식은 ‘연결 조직(connective fabric)’이다. 기존의 대시보드 중심 운영은 행동지향성과 감사 가능성에서 한계를 보였으며, 이제는 데이터, 모델, 런북(runbook)을 통합한 전체 관리를 통해 ‘왜 그런 판단을 내렸는가’까지 설명 가능한 에이전트 구조로 진화해야 한다는 설명이다. 그가 말한 “플랫폼은 기능이 아니라 섬유(fabric)로 작동해야 한다”는 구절은 이 철학을 압축적으로 보여준다.

특히, 운영 전반에서 거버넌스와 관측 가능성(observability)은 필수 요소로 지목됐다. 이는 단순한 AI 도입을 넘어 기업의 실질적인 리스크 절감과 비용 효율, 속도 개선으로 이어져야만 의미 있는 전략이라는 것이다. 만즈레카르는 “LLM은 단지 수단일 뿐이고, 진정한 성숙에는 유연한 정책 설정과 실시간 반응이 가능한 모듈화된 시스템이 뒷받침돼야 한다”고 강조했다.

그는 토론 말미에 “기업 고객들은 단지 최신 기술을 원하는 게 아니라 의미 있는 결과, 즉 ROI로 연결되는 구조를 원한다”며 “향후 운영 인텔리전스 플랫폼의 성패는 기업용 성능, 통제 가능성, 그리고 이 모든 요소가 내장된 인공지능 생태계를 구성할 수 있느냐에 달려 있다”고 덧붙였다.

이날 행사 전체는 실리콘앵글(SiliconANGLE) 산하 미디어 스튜디오 더큐브(theCUBE)의 생중계를 통해 전 세계에 방영됐으며, 기업 AI 확산 전략에서 운영 인텔리전스가 갖는 전략적 중요성이 다시금 조명받는 계기가 됐다.