AI 도입했지만 업무 비효율 심화…직원 40% '신뢰 못하겠다'

인공지능이 업무 효율을 높일 것이란 기대와 달리, 여전히 많은 직원들이 정보를 찾는 데 시간을 허비하며 오히려 AI 도구 사용에 대한 불만이 커지고 있는 것으로 나타났다.

AI 기반 검색 플랫폼 업체 코베오(Coveo)가 미국과 영국 내 대기업 직원 4,000명을 대상으로 실시한 ‘직원 경험 적합성 보고서’에 따르면, 근무자들은 하루 평균 3시간 가까이를 유의미한 정보를 찾는 데 소비하고 있으며, 그 과정에서 상당한 *혼란*, *실망*을 경험하고 있다고 밝혔다. 특히 직원들은 평균적으로 최소 4개의 시스템을 전전하며 업무에 필요한 정보를 찾고 있는 것으로 나타났다.

보고서에 따르면 응답자의 약 절반이 적절한 정보나 도구가 없을 때 높은 좌절감을 느끼고 있으며, 이 같은 감정은 계속해서 심화되고 있다. 2022년에는 28%였던 AI 도구에 대한 불만 비율이 2025년에는 40%로 증가했다. 반면, 이들 도구에 대한 신뢰도는 점점 떨어지고 있어 숙련된 직원일수록 자신의 성과에 대해 의심하고 있는 것으로 나타났다.

AI 툴의 사용도 문제의 중심이다. 직원들은 여전히 AI가 제공하는 응답이 신뢰하기 어렵다고 평가하고 있으며, 특히 ‘AI 환각(hallucination)’ 현상을 직접 경험한 경우도 절반 가까이로 집계됐다. 보고서는 약 22%의 직장인이 업무 중 명백한 오류 응답을 겪었다고 답했으며, IT, 소프트웨어 개발, 경영진 등 핵심 부서에서 이 같은 사례가 반복되고 있다고 전했다. 이러한 AI 부정확성은 특히 신속한 의사결정이 필요한 금융·회계와 기술 산업 분야에서 심각한 부담으로 작용하고 있다.

세대별로 봐도 미묘한 차이가 감지된다. Z세대와 밀레니얼 세대는 AI 응답을 다른 정보로 교차 확인하는 비율이 각각 47%, 44%로 높게 나타났으며, 내부 AI 시스템에 전적으로 신뢰를 표한 직원은 17%에 불과했다. 이는 오픈소스 기반 AI의 신뢰도(14%)와 큰 차이가 없는 수준이다.

AI 기술 도입의 목적 역시 사용자 중심으로 동떨어져 있어 문제를 키우고 있다. 보고서에 따르면 생성형 AI의 주요 활용처는 고객 셀프서비스(34%), 지식 관리(28%), 데이터 분석(26%) 등으로 나타났으며, 정작 직원 생산성 향상은 26%로 비교적 낮은 순위를 기록했다. 이로 인해 내부 정보 탐색 문제는 여전히 해결되지 않아, 직원들이 여러 시스템을 오가며 정보를 흩어 찾고 있는 실정이다.

또한 전체 정보의 약 42%는 직원들의 실제 업무와는 무관한 것으로 드러났다. 전자·하드웨어 같은 산업군에서는 이 비율이 50%를 넘어섰고, 기술지원 직군에서는 47%에 달할 정도로 정보 *무관성*이 심각했다. 업무에 꼭 필요한 정보를 찾는 데 어려움을 느끼는 직원이 27%에 달하는데, 이는 고객 대응이나 계약 체결 등 시급한 결정이 필요한 순간에도 정보를 확보하지 못하는 경우가 상당하다는 의미다.

코베오는 이러한 문제를 해결하기 위해 AI 기반 검색과 발견 서비스를 제공하고 있으며, 해당 시스템은 여러 시스템 간 통합된 검색을 가능케 해 업무 스트레스를 줄이고 적절한 정보를 적시에 제공한다고 밝혔다. 존 그로스한스(John Grosshans) 코베오 최고운영책임자(COO)는 “기업 내 정보 탐색이 더 이상 사람의 책임이 되어선 안 된다”며 “우리는 AI가 관련성 있는 답변을 제공할 수 있도록 체계적이고 신뢰 가능한 데이터 정비가 먼저 이뤄져야 한다고 믿는다”고 강조했다.

보고서를 집필한 기술 애널리스트 주스 케라발라는 “직원들이 업무 시간의 40%를 단순 정보 정리에 할애하고 있다”면서 “답이 여러 시스템에 분산되면 결국 사용자가 '통합 지점' 역할을 하게 되고, 이는 생산성 저하와 오차로 직결된다”고 지적했다. 그는 이어 “AI가 진정한 업무 도구로 기능하기 위해서는 단순한 정보 접근보다 *관련성* 확보에 중점을 둬야 한다”고 덧붙였다.