중견기업 AI 도입 확산…성패는 ‘배포’가 아니라 데이터 거버넌스

중견기업의 인공지능(AI) 도입이 빨라지고 있지만, 실제 운영 단계까지 안착하는 사례는 많지 않다는 진단이 나왔다. 현장에서는 AI 모델 자체보다 ‘데이터 준비’와 ‘거버넌스’가 먼저 갖춰져야 한다는 점이 핵심 과제로 지목됐다.

글로벌 세무·감사·컨설팅 기업 RSM 캐나다의 전략적 비즈니스 제휴 총괄 수잔 맥아이버는 최근 ‘부미 월드 2026’ 행사에서 실리콘앵글 계열 더큐브와의 인터뷰를 통해, 중견기업 시장이 디지털 전환과 AI 확산의 중요한 무대가 되고 있다고 밝혔다. 그는 “중견기업은 경제의 ‘중추’”라며 부미(Boomi)의 플랫폼이 전사적자원관리, 즉 ERP 전환 프로젝트와 고객사의 디지털 전환 여정에서 ‘연결 조직’ 역할을 하고 있다고 설명했다.

이번 대담에는 북미 16개 공장을 운영하는 식품기업 시어러스 푸즈의 통합 아키텍트 저스틴 태프도 참여했다. 태프에 따르면 이 회사는 20년 넘게 같은 ERP 시스템을 사용해왔고, 최근 RSM을 구축 파트너로, 부미를 통합 계층으로 선택해 현대화 작업에 나섰다. 기존의 수기 작성 코드 중심 환경에서 관리형 플랫폼으로 전환한 점이 IT 운영 방식의 큰 변화였다는 설명이다.

태프는 “RSM이 부미를 활용하면 대규모 ‘가속기’가 될 것이라고 제안했다”며 초기에는 문서와 구조를 이해하는 데 시간이 걸렸지만, 약 1년 반 전 본격 도입 이후 현재까지 만족스러운 경험을 이어가고 있다고 말했다.

중견기업 AI 도입의 걸림돌로는 기술보다 기초 체력 부족이 꼽혔다. 맥아이버는 RSM이 워크숍 중심의 구조화된 방식으로 고객사의 AI 전략 수립을 돕고 있으며, 이 과정에서 실제 사업 효과를 입증할 수 있는지부터 점검한다고 설명했다. 특히 RSM 고객사의 절반 가까이가 사모펀드 투자를 받은 기업이어서 모든 단계에서 투자수익률, 즉 ROI 검증이 필수라고 덧붙였다.

그는 “사업 활용 사례는 있어도, 그것이 곧바로 사업 임팩트로 이어지지는 않는 경우가 많다”며 “결국 중요한 것은 데이터 활성화, 데이터 거버넌스, 그리고 AI 활용 사례가 성공할 수 있도록 집을 먼저 정리하는 일”이라고 강조했다.

이 발언은 최근 기업 현장에서 나타나는 AI 도입 흐름과도 맞닿아 있다. 경영진 차원에서는 생성형 AI와 자동화 도입 압박이 커지고 있지만, 실제 생산 환경에서는 데이터 품질, 보안 통제, 시스템 연계, 기존 ERP와의 호환성 같은 문제가 발목을 잡는 경우가 적지 않다. 특히 레거시 코드 부담이 큰 중견기업은 대기업보다 예산과 인력이 제한적인 만큼, 무리한 확산보다 기초 인프라 정비가 우선이라는 해석이 나온다.

결국 중견기업 AI 도입의 성패는 ‘빨리 시작하느냐’보다 ‘제대로 준비하느냐’에 달렸다는 평가다. ERP 현대화와 데이터 거버넌스를 먼저 정비한 기업일수록 AI를 실제 업무에 안정적으로 연결할 가능성이 높아진다. 시장에서는 중견기업이 향후 AI 확산의 새로운 주도층이 될 수 있지만, 그 전제는 탄탄한 데이터 기반이라는 점이 다시 확인되고 있다.