AI 에이전트가 실패하는 진짜 이유…열쇠는 '프로세스 인텔리전스'

AI 도입에 열을 올리고 있는 기업들이 현실적인 도전에 직면하고 있다. 핵심 문제는 기술의 한계가 아니라 '프로세스 인텔리전스'가 결여됐기 때문이다. 자동화 도구만으로는 복잡한 조직 내 업무 흐름을 이해하고 최적화할 수 없다. 기업이 진정으로 AI 에이전트를 효과적으로 활용하려면, 그 전에 자사 업무 프로세스를 정확히 파악하고 가시화하는 것이 선행돼야 한다는 지적이다.

2025년 시작과 함께 AI 에이전트를 둘러싼 과도한 기대가 이어졌지만, 실질적인 성과로 이어지지 않으면서 점차 회의론이 확산되고 있다. 가트너는 올해 6월 발표한 보고서에서 오는 2027년까지 40% 이상의 에이전트 기반 AI 프로젝트가 취소될 것으로 전망했다. 시스템 간 연결은 완성됐지만, 기업 내부의 복잡하고 불안정한 프로세스에 적응하지 못하면서 AI 도입 성과가 기대에 미치지 못하고 있는 상황이다.

독일의 데이터 처리 기업 셀로니스(Celonis)는 이러한 흐름 속에서 ‘프로세스 인텔리전스’가 AI 성공의 전제조건이라고 강조했다. 셀로니스는 자사 연례 행사인 '셀로스피어 2025'에서 실제 고객 사례를 토대로, AI 에이전트를 명확한 업무 흐름과 연결해야 효과를 극대화할 수 있다고 설명했다. 셀로니스 CTO 마누엘 하우그는 "AI가 기업 곳곳에 도입되고 있지만, 그것이 잘 작동하는지는 전혀 다른 이야기"라며 "제대로 작동시키려면 프로세스 인텔리전스가 반드시 필요하다"고 말했다.

기업들은 종종 자신들의 업무 프로세스를 충분히 이해하고 있다고 믿지만, 현실은 다르다. 이메일로 지연되는 승인 프로세스, 스프레드시트에 의존한 예외 처리, 불분명한 책임 분담 등이 여전히 갈등을 유발한다. theCUBE Research에 따르면, 기업의 72%는 자동화 성과를 가로막는 가장 큰 병목 요인이 ‘도구부족’이 아닌 ‘보이지 않는 비효율’이라고 답했다. 이처럼 비정형적이고 불투명한 업무 환경 속에서 AI 에이전트는 치명적인 판단 착오를 범할 수 있다.

기존의 프로세스 마이닝 도구도 이러한 문제에 일부 대응해왔지만 한계가 있었다. 시스템 로그로부터 프로세스를 역추적하긴 했으나, 이는 어디까지나 과거에 머물러 있었다. 셀로니스는 여기에 인사이트와 실행능력을 더한 '프로세스 인텔리전스 그래프'를 도입해, 실시간 업무 흐름을 시각화하고 AI 에이전트가 유의미한 판단을 내릴 수 있도록 지원하고 있다. 이를 통해 AI가 단순 반복이나 오류 확대의 도구가 아니라, 유용한 조력자로 작동할 수 있는 기반을 마련하게 되는 셈이다.

대표 예로 든 '수금(order-to-cash)' 전환 과정이 그 효과를 잘 보여준다. 일정 기준만으로 처리되는 AI 에이전트는 결제지연으로 간주된 인보이스를 자동으로 이슈화할 수 있으며, 이로 인해 영업과 재무, 고객 대응에 혼선을 초래한다. 그러나 프로세스 인텔리전스를 활용하면 부분 배송이나 지연 요인까지 파악해 지나친 개입을 피할 수 있으며, 더 적절한 부서로 직관적인 조정을 실행할 수 있다.

셀로니스의 제품 총괄책임자 다니엘 브라운은 “AI가 의미 있고 안전한 실행을 하려면 업무 맥락에 대한 이해가 반드시 필요하다”며 “에이전트는 고립된 조치가 아니라 일련의 과정 흐름을 이해하며 결정할 수 있어야 한다”고 강조했다. 이는 단순한 데이터 시각화를 넘어, 실행 가능하고 지속적인 개선을 위한 결정 지능(decision intelligence)을 확보하겠다는 전략이다.

시장 연구기관 그랜드뷰 리서치에 따르면, 글로벌 프로세스 인텔리전스 시장은 2024년 기준 약 14억 달러(약 2조 160억 원) 규모로 추산되며, 2030년까지 약 219억 달러(약 31조 5,000억 원)로 성장할 전망이다. 셀로니스는 이 시장에서 독보적인 존재감을 강화하는 한편, 마이크로소프트(MSFT), IBM(IBM), 아마존웹서비스(AWS) 등 주요 클라우드 기업과도 협업을 확대하며 경쟁보다는 생태계 조성에 집중하고 있다.

직원들이 반복 업무 대신 더 가치 있는 일에 집중할 수 있도록 지원하는 것이 AI 도입의 본래 목표다. 그러나 구조화되지 않은 혼란 속에선 자동화가 오히려 문제를 악화시킬 수 있다. 셀로니스는 이 점에서 데이터 기반 프로세스 지능이 AI 성공의 전제임을 강조하며, 실시간 의사결정이 가능한 플랫폼으로의 역할 전환을 본격화하고 있다.

기업들이 AI에서 실질적인 가치를 얻고자 한다면, 화려한 기술보다 내부 이해가 선행돼야 한다. 셀로니스의 메시지는 분명하다. 일을 정확히 이해해야 잘 자동화할 수 있다. 프로세스 인텔리전스는 에이전트 기반 AI 시스템의 부속 기능이 아니라, 신뢰성과 지속 가능성을 확보하는 핵심 토대라는 것이다.