AI 고객경험, 데모는 통과했지만 운영에서 멈춘다…‘신뢰 격차’가 변수

기업들이 인공지능(AI) 기반 고객경험 강화에 공격적으로 투자하고 있지만, 실제 서비스 출시 단계까지 이어지지 못하는 사례가 적지 않은 것으로 나타났다. 화려한 시범 운영과 개념검증은 성공해도, 예외 상황과 법무·보안 검토 단계에서 발이 묶이는 이른바 ‘신뢰 격차’가 핵심 원인으로 지목된다.

라이브퍼슨의 최고제품기술책임자 크리스 미나(Chris Mina)는 최근 구글 클라우드 넥스트 행사에서 “기업들은 훌륭한 개념검증과 워크플로를 만들어 놓고도 실제로는 그대로 멈춰선다”며 “성공적인 시나리오만 확인한 뒤, 예상 밖의 사례를 만나면 도입을 중단하는 경우가 많다”고 말했다.

‘잘 되는 데모’와 ‘실제 운영’ 사이의 간극

크리스 미나에 따르면 현재 많은 기업이 AI 고객경험 도입 필요성에는 공감하고 있다. 소비자들도 이미 AI를 활용한 빠르고 개인화된 고객 서비스를 기대하고 있다. 문제는 기업 내부 의사결정 구조다. 보안 부서, 법무 조직, AI 거버넌스 위원회 등이 실제 운영 리스크를 우려하면서 프로젝트가 본단계로 넘어가지 못하는 경우가 많다.

이 과정에서 기업은 AI가 ‘정상 경로’에서는 잘 작동하더라도, 민감한 문의나 복잡한 고객 불만, 규제 이슈가 얽힌 상황에서도 안정적으로 대응할 수 있는지 입증해야 한다. 단순한 데모 성과만으로는 내부 승인을 통과하기 어렵다는 의미다.

라이브퍼슨, 합성 테스트로 신뢰 확보 시도

라이브퍼슨은 이 문제를 해결하기 위한 방안으로 ‘신트릭스(Syntrix)’를 제시했다. 이 플랫폼은 실제 배포 전에 합성 사용자와 생성형 테스트 케이스를 활용해 수천 개의 고객 시나리오를 시뮬레이션할 수 있도록 설계됐다. 기업 입장에서는 새 AI 에이전트나 캠페인을 시장에 내놓기 전에 다양한 변수와 예외 상황을 점검하고, 그 결과를 데이터로 축적할 수 있다.

크리스 미나는 “기업들이 보안이나 법무, AI 위원회에 가로막힐 때 ‘우리는 이런 모든 시나리오를 테스트했다’는 데이터를 제시할 수 있어야 한다”며 “중요한 것은 막연한 자신감이 아니라, 근거와 증거를 갖춘 신뢰”라고 설명했다.

이 접근은 최근 AI 고객경험 시장에서 더욱 중요해지고 있다. 기업들은 AI 도입 속도를 높이고 싶어 하지만, 실제 현장에서는 오류 응답, 개인정보 처리, 브랜드 이미지 훼손 가능성까지 함께 관리해야 하기 때문이다. 결국 AI 고객경험 경쟁력은 기술 그 자체보다 ‘안전하게 운영할 수 있다는 확신’에서 갈린다는 해석이 나온다.

실시간 감시하는 ‘가디언 에이전트’도 구축

라이브퍼슨은 테스트를 넘어 실시간 운영 관리 기능도 강화하고 있다. 회사 측은 ‘가디언 에이전트’를 통해 사람 상담사와 챗봇을 포함한 전체 실시간 대화의 100%를 모니터링한다고 밝혔다. 각 상호작용이 정상적으로 진행되는지, 혹은 추가 개입이나 상향 조치가 필요한지를 지속적으로 판단하는 방식이다.

이는 AI 고객경험 시스템이 실제 고객 응대 과정에서 예상치 못한 문제를 일으킬 가능성을 줄이기 위한 장치로 볼 수 있다. 특히 대규모 고객센터를 운영하는 기업일수록 모든 대화를 일일이 점검하기 어렵기 때문에, 이런 실시간 오케스트레이션 기능의 필요성은 더 커지고 있다.

구글 클라우드 이전 완료…이제 과제는 ‘실행’

라이브퍼슨은 최근 수년에 걸친 구글 클라우드 이전 작업도 마무리했다. 이를 통해 20년 넘게 쌓인 온프레미스 기술 부채를 덜어내고, 고객사들이 구글의 제미나이 모델과 초대형 클라우드 인프라를 활용할 수 있는 기반을 마련했다는 설명이다.

인프라 전환이 끝난 만큼, 이제 남은 과제는 AI 고객경험을 실제 서비스 현장에 안착시키는 일이다. 크리스 미나는 “이 흐름을 멈출 수는 없다”며 “시장에는 이미 약속이 나와 있고, 소비자들도 이를 기대하고 있기 때문에 브랜드들이 안전하고 안정적으로 이 약속을 이행하도록 돕는 것이 중요하다”고 말했다.

결국 이번 발언은 기업용 AI 시장이 단순한 기술 도입 경쟁을 넘어, ‘검증 가능한 신뢰’와 ‘운영 안정성’ 확보 단계로 넘어가고 있음을 보여준다. 소비자 기대는 높아지고 있지만, 기업의 AI 고객경험 도입률이 아직 한 자릿수 수준에 머무는 배경도 여기에 있다는 평가다.