AI 투자 ‘도입’에서 ‘성과’로… 기업들 ROI·데이터 거버넌스 점검 본격화

인공지능(AI)이 더 이상 ‘신기한 기술’로 소비되던 단계는 지났다는 진단이 나왔다. 기업들은 이제 AI 도입 자체보다 실제 수익성과 운영 통제 체계, 즉 ‘ROI’와 ‘거버넌스’를 중심으로 투자 성과를 따지기 시작했다.

미국 데이터·분석 기업 퀵 테크놀로지스가 최근 공개한 ‘에이전틱 AI 스터디’에 따르면, 조사 대상 기업의 97%는 에이전틱 AI 예산을 확보했지만 완전한 배치까지 끝낸 곳은 18%에 그쳤다. 또 명확한 투자수익률(ROI) 프레임워크를 갖춘 기업은 19%에 불과했다. 퀵은 AI 확산을 가로막는 가장 큰 병목으로 데이터 품질, 데이터 접근성, 데이터 거버넌스를 꼽았다.

퀵의 최고경영자 마이크 캐폰은 최근 열린 ‘퀵 커넥트’ 행사에서 “지름길은 없다는 사실을 깨닫는 데서 출발한다”며 “많은 고객이 한 번 실패를 겪은 뒤에야 신뢰할 수 있는 데이터 플랫폼과 AI 데이터 파이프라인, 품질 통제와 거버넌스가 먼저 필요하다는 점을 이해한다”고 말했다. AI를 ‘책임 있게’ 활용하려면 결국 기초 데이터 체계부터 다시 세워야 한다는 의미다.

‘AI 열풍’ 뒤에 커진 질문… 돈은 썼는데 성과는 어디에 있나

이번 행사에서 가장 두드러진 메시지는 AI에 대한 시장 기대가 ‘실험’에서 ‘가치 창출’로 이동하고 있다는 점이다. 캐폰은 “초기에는 AI 실험 자체가 흥미로웠지만, 이제 최고재무책임자(CFO)들이 나서 ‘이 돈이 어디로 가고 있고 어떤 가치를 만들고 있느냐’고 묻고 있다”고 설명했다.

실제 기업들은 AI 모델 정확도 자체보다 최종 비즈니스 효과에 더 주목하고 있다. 밀키트 기업 헬로프레시는 퀵의 예측 솔루션을 활용해 배송 실패 가능성이 높은 주문을 사전에 가려내고, 자동 복구 조치를 실행해 고객 이탈을 줄이고 있다고 밝혔다. 헬로프레시의 데이터·운영 시스템 총괄 에드 덩거는 “사람이 판단할 때는 더 많은 사실을 기다리느라 대응이 늦어지는 경우가 많았다”며 “AI는 정해진 위험 범위 안에서 더 빠르게 결정을 내려 고객 경험을 개선했다”고 말했다.

이는 AI의 핵심 평가 기준이 ‘완벽한 예측’이 아니라 ‘더 나은 순효과’로 옮겨가고 있음을 보여준다. 다시 말해, AI ROI는 모델의 기술적 성능만으로 결정되지 않고 실제 업무 속도, 고객 유지율, 운영 효율 같은 경영 지표와 연결될 때 의미를 갖는다.

속도보다 기반… AI 확산의 진짜 변수는 ‘데이터 거버넌스’

퀵 경영진은 AI 도입 속도를 높이려면 오히려 초기에 더 느리게, 더 정교하게 움직여야 한다고 강조했다. 퀵의 최고전략책임자 제임스 피셔는 “‘느리게 가야 더 빨리 갈 수 있다’는 말을 좋아한다”며 “어디에 쓰일지, 어떤 방식으로 적용될지를 고민하며 기반을 쌓는 작은 추가 시간이 장기적으로는 AI 애플리케이션과 에이전트 성능에 큰 차이를 만든다”고 말했다.

이 같은 배경에서 퀵은 신뢰 가능한 데이터 기반을 갖춘 대화형 AI 솔루션 ‘퀵 앤서스’를 제시했다. 단순히 AI를 문제 위에 얹는 것이 아니라, 적절한 지연 시간과 적절한 형식으로 데이터를 결합해 AI가 활용할 수 있도록 전달하는 구조가 중요하다는 설명이다.

퀵의 최고기술책임자 샘 피어슨도 기업의 가장 큰 제약은 결국 데이터라고 짚었다. 그는 “중소기업이든 대기업이든 내부에는 수백, 수천 개의 오래된 시스템과 데이터베이스가 존재한다”며 “현대화되지 않은 시스템에서 데이터를 꺼내 AI 참조 아키텍처로 어떻게 연결할지가 핵심 과제”라고 말했다.

특히 그는 보안과 데이터 거버넌스를 조직의 시스템 설계 단계에 아예 내장해야 한다고 강조했다. AI 도입 후반부에 통제를 덧붙이는 방식으로는 확장성과 안정성을 확보하기 어렵기 때문이다.

대시보드의 진화… AI가 ‘정보판’에서 ‘의사결정 엔진’으로

퀵은 AI가 데이터 활용 방식 자체도 바꾸고 있다고 진단했다. 과거에는 사용자가 대시보드에서 정보를 보고 직접 판단했다면, 앞으로는 AI 에이전트가 상당수 업무를 대신 수행하고, 경우에 따라선 사용자를 대신해 행동까지 취하는 구조로 발전할 수 있다는 전망이다.

퀵 AI 총괄 닉 매그너슨은 “정보에 어떻게 반응할지, 데이터를 어떻게 만들고 생애주기 전반에서 지원할지를 다시 생각해야 하는 시점”이라며 “인간이 아닌 자율 시스템이 개입하면서 기존 프레임워크를 근본부터 재설계해야 한다”고 말했다.

퀵의 제품·기술 담당 수석부사장 드루 클라크는 향후 대시보드가 단순한 시각화 도구를 넘어 ‘의사결정 엔진’으로 바뀔 수 있다고 내다봤다. 그는 기업들이 개방형 표준을 기반으로 상호운용 가능한 ‘AI 공장’ 구조를 갖춰야 한다며, 모든 기능을 하나의 거대한 시스템에 몰아넣는 ‘모놀리식’ 접근을 피해야 한다고 설명했다.

클라크는 “데이터는 있어야 할 곳에 두고, 필요한 만큼 접근 가능하게 만든 뒤, 딱 알맞게 다시 가져오는 구조가 중요하다”고 말했다. 이는 AI 시대 데이터 전략의 핵심이 ‘집중’이 아니라 ‘유연한 연결’에 있음을 보여준다.

결국 이번 퀵 커넥트의 메시지는 분명하다. AI 경쟁의 승부는 더 많은 실험이 아니라 더 신뢰할 수 있는 데이터, 더 촘촘한 거버넌스, 더 명확한 ROI에서 갈릴 가능성이 크다. 기업들이 AI를 실제 성과로 연결하려면 기술 도입보다 먼저 데이터 기반부터 점검해야 한다는 지적에 무게가 실린다.