기업용 'AI 고객경험' 상용화, 보안과 법무가 발목

기업들이 ‘AI 고객경험’ 고도화에 대규모 투자를 이어가고 있지만, 실제 서비스 전환 단계에서는 좀처럼 속도를 내지 못하고 있다. 개념검증과 시범 운영에서는 성과를 확인했음에도, 예외 상황 대응과 보안·법무 검토 문턱을 넘지 못해 상용화 직전에서 멈춰서는 사례가 잇따르고 있다는 진단이다.

23일(현지시간) 실리콘앵글에 따르면 크리스 미나(Chris Mina) 라이브퍼슨 최고제품·기술책임자는 구글 클라우드 넥스트 2026 행사 현장에서 진행된 더큐브 인터뷰에서 많은 기업이 ‘AI 고객경험’ 도입 과정에서 확신 부족에 발목이 잡히고 있다고 밝혔다. 그는 “기업들은 인상적인 개념검증 결과와 워크플로를 만들어 놓고도, 실제 현장에선 엣지 케이스를 맞닥뜨리는 순간 멈춰선다”고 말했다.

미나는 현재 기업들의 AI 도입률이 여전히 한 자릿수 수준에 머물고 있다고 진단했다. 소비자들의 기대치는 빠르게 높아지고 있지만, 현업 조직은 기술이 모든 상황에서 안정적으로 작동하는지에 대한 ‘신뢰’와 이를 입증할 ‘데이터’를 충분히 확보하지 못하고 있다는 것이다. 특히 보안 부서나 법무 조직, 내부 AI 거버넌스 위원회가 우려를 제기할 경우 프로젝트가 장기간 지연되는 사례가 많다고 설명했다.

라이브퍼슨은 이런 병목을 해소하기 위한 해법으로 테스트 플랫폼 ‘신트릭스’를 제시했다. 이 플랫폼은 합성 사용자와 생성형 테스트 시나리오를 활용해 수천 개의 고객 응대 상황을 사전에 시뮬레이션할 수 있도록 설계됐다. 기업은 새로운 AI 에이전트나 캠페인을 실제 배포하기 전에 다양한 고객 질문, 예외 응답, 실패 조건을 검증할 수 있고, 그 결과를 내부 심사 자료로 활용할 수 있다.

미나는 “보안이나 법무 조직의 검토에 막혔을 때, 기업은 ‘우리가 이 많은 시나리오를 테스트했고 그 결과도 확보했다’는 형태의 근거를 제시할 수 있어야 한다”며 “결국 상용화의 핵심은 기술 시연이 아니라 증거 기반의 자신감”이라고 강조했다.

라이브퍼슨은 실시간 운영 단계에서도 통제 장치를 강화하고 있다. 회사가 구축한 이른바 ‘가디언 에이전트’는 사람 상담사와 챗봇이 처리하는 대화 전반을 100% 실시간으로 모니터링하며, 각 상호작용이 정상 흐름을 유지하는지 또는 상위 대응이 필요한지를 지속적으로 판단한다. 이는 생성형 AI 기반 고객 응대에서 가장 민감한 환각, 부적절 답변, 민원 확대 리스크를 낮추기 위한 장치로 해석된다.

인프라 전환도 병행했다. 라이브퍼슨은 최근 수년에 걸친 구글 클라우드 이전 작업을 마무리하며 약 20년에 걸쳐 누적된 온프레미스 기술 부채를 상당 부분 덜어냈다고 밝혔다. 이를 통해 고객들은 구글의 ‘제미나이’ 모델 접근성과 하이퍼스케일급 안정성을 함께 활용할 수 있게 됐다. AI 고객센터 운영에서 요구되는 확장성, 응답 속도, 모델 선택 유연성을 동시에 확보하려는 포석이다.

업계에서는 이 같은 접근이 최근 기업용 AI 시장의 현실을 잘 보여준다는 평가가 나온다. 생성형 AI 도입 초기에는 화려한 데모와 생산성 개선 기대가 시장을 이끌었지만, 실제 예산 집행 단계에서는 보안성과 감사 가능성, 운영 책임 구조가 핵심 판단 기준으로 부상했다. 특히 고객 응대 영역은 브랜드 평판과 직접 연결되는 만큼, 성공적인 데모보다 실패 가능성을 줄이는 체계가 더 중요해졌다는 분석이다.

미나는 “이 흐름은 이미 움직이기 시작한 열차와 같다”며 “시장은 약속된 AI 고객경험을 원하고, 소비자들도 이를 기대하고 있다. 중요한 것은 브랜드들이 이 약속을 안전하고 보안성 있게 이행하도록 돕는 일”이라고 말했다. 기업들이 ‘AI 고객경험’ 경쟁에서 성과를 내기 위해서는 단순한 도입 발표보다 검증, 통제, 실시간 관제 역량을 함께 갖추는 것이 더 중요해지고 있다.