AI 도입, 8%만 전사적 성공…액센츄어 “열쇠는 인재와 데이터”

인공지능(AI)이 실험 단계를 넘어 실제 비즈니스 현장에서 확산되는 가운데, 전략적 실행력에 따라 기업 간 격차가 뚜렷하게 벌어지고 있다. 최근 액센츄어가 공개한 보고서에 따르면, AI 기술을 조직 전반에 성공적으로 확대 적용한 기업은 전체의 8%에 불과한 것으로 나타났다. 나머지 92%는 아직도 초기 시험 단계에서 벗어나지 못하고 있는 실정이다.

해당 보고서는 글로벌 매출 10억 달러(약 1조 4,400억 원)를 넘는 2,000개 기업의 경영진과 데이터 과학 담당자를 대상으로 AI 도입 현황을 조사했다. 특히 AI 전환에 성공한 일부 기업들의 공통된 전략을 심층 분석하며, 무엇이 AI 스케일업을 결정짓는 핵심 요소인지 명확하게 제시했다.

가장 주목할 점은 기술 투자보다 사람 중심의 역량 구축이 훨씬 더 중요한 요인이었다는 점이다. 액센츄어는 AI 구현에 가장 큰 영향을 미친 요소로 ‘인재 성숙도’를 꼽았다. 선도 기업은 타 기업 대비 4배에 달하는 인재 전략 수준을 보였으며, 문화 적응력 강화, 인력 재배치, 체계적 교육 프로그램 도입에서도 두드러진 차이를 보였다. 보고서에 따르면, 선도 기업 중 57%가 AI 전담 조직을 구축한 반면, 후속 주자는 이 비중이 단 16%에 그쳤다.

AI의 확산을 가로막는 현실적인 걸림돌로는 ‘데이터 인프라’의 부족이 가장 심각한 문제로 지적됐다. 약 70%의 기업이 AI 스케일업 과정에서 데이터 기반이 부족하다는 점을 인정했으며, 실제로 선도 기업의 97%는 생성형 AI 도입을 위해 핵심 데이터 역량을 3개 이상 새로 개발한 것으로 나타났다. 대표적으로 지식 그래프나 RAG(검색 증강 생성) 기술의 활용률도 후속 기업 대비 5배 이상 높았다.

AI 도입의 수익성을 극대화하려면 전략적 선택과 집중이 핵심이다. 보고서는 성공한 기업일수록 명확한 가치 정의와 장기적 투자 방향을 토대로 AI를 핵심 가치사슬에 집중시켰다고 지적한다. 전략적 AI 투자 1개 이상을 실행한 기업은 기대 수익률을 초과 달성할 확률이 세 배에 달했다.

또한 '책임 있는 AI'(Responsible AI) 구축도 단순 규제 준수를 넘어 실제 수익 창출에 기여하는 요소로 부상하고 있다. 보고서는 고객 신뢰 강화와 제품 완성도 제고, 우수 인재 유치를 위한 필수 전략으로 책임 있는 AI의 중요성을 강조했다. 규정 준수 중심의 접근에서 벗어나 책임 원칙을 개발 단계에 내재화하고, AI 시스템 전반에 걸친 위험 관리 체계를 사전 구축하는 것이 필수라고 밝혔다.

액센츄어는 끝으로 선도 기업들이 일관되게 채택하는 새로운 AI 구조로 ‘에이전트형 AI 아키텍처’를 꼽았다. 이는 자율성과 협업성을 갖춘 다중 AI 에이전트가 비즈니스 전 과정을 조율하는 방식으로, 효율성과 생산성을 획기적으로 높이는 데 기여하고 있다. 조사 대상 선도 기업의 65%는 이러한 에이전트형 AI 활용에서 후속 기업 대비 높은 성숙도를 보였으며, 해당 기술은 이미 혁신 경쟁력 강화의 수단으로 자리잡고 있다.

실제로 AI를 도입하고 확대한 기업들은 향후 18개월 내 생산성 13%, 매출 증가 12%, 고객 경험 개선 11%, 비용 절감 11%의 효과를 기대하고 있는 것으로 조사됐다. 액센츄어는 이를 바탕으로 “모든 기업이 AI 도입을 통해 재창조를 목표로 하고 있으며, 선도 기업의 전략을 따른다면 더 많은 기업들이 실험 단계를 넘어 전사적 혁신을 이끌 수 있을 것”이라고 조언했다.