기업 AI 프로젝트의 95%가 실패하고 있다는 최근 MIT 보고서는 시장에 충격을 던졌지만, 정작 그 내용을 자세히 들여다보면 전혀 다른 사실을 이야기하고 있다. 보고서에 따르면 기업 내 공식 시스템이 주춤하는 사이, '그림자 AI 경제(shadow AI economy)'라 불리는 현상이 폭발적으로 성장하고 있으며, 이는 역사상 가장 빠르고 조용한 기술 채택 사례로 자리매김하고 있다.
MIT의 프로젝트 난다(Project NANDA)가 발표한 이번 보고서는 언뜻 보면 AI 기술의 한계를 지적하는 듯하지만, 실제로는 직원 개개인이 생성형 AI 툴을 자발적으로 업무에 활용하면서 기업 혁신을 이끌고 있다는 사실을 부각한다. 조사에 따르면 정식으로 AI 도구를 구매한 기업은 전체의 40%에 불과했지만, 그 이상으로 놀라운 점은 90%가 넘는 직원들이 업무에 개인 AI 툴을 거의 매일 사용하는 것으로 나타났다는 것이다.
이러한 비공식 AI 이용은 단순한 실험 수준을 넘어, 실질적인 생산성 향상을 이끌어내고 있다. 예컨대, 한 기업의 변호사는 5만 달러(약 7,200만 원)를 들여 계약 분석용 AI 시스템을 도입했음에도, 여전히 챗GPT와 같은 소비자용 AI를 더 선호한다고 밝혔다. 그 이유는 더 나은 출력 품질과 편의성 때문이었다. 이는 특정 산업이 아닌 다수 업종에서 반복되는 패턴이다.
기업 차원의 AI 도입 실패는 주로 ‘학습 능력 결여’에서 기인하는 것으로 분석된다. MIT 보고서는 "대다수의 기업 맞춤형 AI는 사용자 피드백을 반영하지 못하고, 매번 많은 전처리 작업이 필요하며, 사용자가 익숙해지기 어렵다"고 지적했다. 반면, 챗GPT 같은 소비자용 툴은 비록 기억을 유지하지 않더라도, 답변의 유연성과 속도 덕분에 높은 만족도를 얻고 있다.
흥미로운 점은 기업 내부에서 개발한 AI보다 외부 플랫폼과의 협업이 두 배 더 높은 성공률을 보였다는 결과다. AI 스타트업과 전략적 파트너십을 맺고, 단순 공급자가 아닌 ‘서비스 운영자’로 대우한 조직일수록 AI 도입 성과가 뚜렷했다. 이러한 조직은 기능보다는 성과 위주 접근법을 택했고, 지속적인 피드백과 개선을 요구하며 성과를 끌어올렸다.
AI 도입이 빠르게 확산되고 있는 기술 및 미디어를 제외하면, 금융, 제조, 의료 등 대부분의 산업은 신중하게 접근하고 있다. 이는 실패가 아닌 전략적 판단이라는 것이 MIT 연구팀의 해석이다. 특히 보수적인 산업군일수록 무리한 채용 축소 없이도 AI를 활용한 자동화를 천천히 도입하고 있으며, 이는 조직 구성이나 예산을 건드리지 않고도 수백만 달러 규모의 간접 비용을 절감하는 효과를 낳고 있다.
결국 핵심은 기술 자체가 아니라, ‘어떻게 도입하고 운영하느냐’는 방식의 문제다. 현재 AI는 실패하고 있는 것이 아니라, 조직 시스템보다 빠르게 현장 직원들에게 채택되고 있다. MIT는 이를 ‘학습 가능한 시스템’과 ‘프로슈머 활용 확대’가 만드는 신세대 AI 생태계로 규정하며, AI 혁신은 거창한 프로젝트가 아니라 하나의 이메일, 한 줄의 코드 자동화에서 시작된다고 강조했다. AI는 지금 이 순간에도 조용히, 그러나 확실히 업무 방식을 변화시키고 있다.