AI 전환, PoC 넘어 전사 실행으로…거버넌스·보안·인재가 관건

기업들의 인공지능(AI) 전환이 ‘개념검증’ 단계를 지나 실제 사업에 적용하는 국면으로 빠르게 넘어가고 있다. 다만 현장 실행 속도가 빨라질수록 기술 부서만으로는 감당하기 어려운 과제가 늘어나면서, 거버넌스와 보안, 인재 확보가 AI 전환의 핵심 변수로 떠오르고 있다.

글로벌 컨설팅 기업 슬라럼컨설팅의 다니엘 프레이저 구글클라우드 글로벌 파트너 개발 총괄은 최근 구글 클라우드 넥스트 행사에서 “최고경영진은 AI에 매우 적극적이지만, 실제 조직은 거버넌스와 보안, 인재 문제 때문에 기대만큼 빠르게 움직이지 못하고 있다”고 말했다. 경영진이 AI 투자 확대를 주문하는 가운데, 실질적인 성과를 만드는 조직 역량이 이를 따라가지 못하고 있다는 설명이다.

같은 행사에서 션 에버하트 슬라럼 구글클라우드 총괄은 현재 AI 전환의 흐름이 단순한 ‘보조 도구’에서 벗어나 ‘관리형 에이전트 플랫폼’으로 옮겨가고 있다고 진단했다. 여러 업무를 자동으로 처리하는 AI 에이전트를 중심으로 기업 운영 방식 자체가 바뀌기 시작했다는 의미다.

특히 레거시 시스템 현대화가 예상보다 빠른 성과를 내는 분야로 꼽혔다. 오래된 코볼(COBOL) 기반 시스템도 AI 도구를 활용하면 코드를 분석하고 복잡성을 분해한 뒤, 실행 가능한 현대화 계획을 짧은 시간 안에 제시할 수 있다는 것이다. 에버하트는 “과거 3개월 걸리던 일이 지금은 4시간이면 되는 경우도 있다”며 “핵심 개발 주기가 급격히 짧아지면 조직 운영 방식 전반을 바꿔야 한다”고 말했다.

이 같은 AI 전환의 속도는 실제 실적 개선으로도 이어지고 있다. 프레이저에 따르면 슬라럼은 최근 한 대형 제조업체와 보증 청구 프로세스 관련 파일럿 프로젝트를 진행했다. 전체 업무 흐름의 1%만 AI 에이전트 파이프라인에 적용했는데도 약 100만달러의 비용 절감 효과를 냈다. 원/달러 환율 1달러당 1,477원을 적용하면 약 14억7,700만원 규모다.

이처럼 숫자로 확인되는 성과가 나오면서 AI 전환은 최고정보책임자(CIO) 중심 과제에서 최고경영자(CEO) 직접 지시 사항으로 성격이 바뀌고 있다. 에버하트는 “이제 실행 속도가 매우 빨라졌기 때문에 ‘아이디어’ 자체의 가치가 더 커졌다”며 “쌓여 있던 경영진의 아이디어를 실제 결과로 만들 수 있는 실행 엔진이 생긴 것”이라고 평가했다.

슬라럼은 고객사 미팅에서도 기존의 발표 자료 대신 실제 작동하는 데모와 시제품을 먼저 제시하는 방식을 강화하고 있다. 또 약 1만명의 임직원 네트워크에서 고객 관계와 업무 맥락을 AI로 분석해, 프로젝트 매니저와 디자이너, 풀스택 AI 엔지니어가 함께 움직이는 교차 기능 조직 중심으로 전달 체계를 재편하고 있다고 설명했다.

프레이저는 지금의 AI 전환 국면에서 가장 중요한 역량으로 ‘문제를 제대로 정의하는 능력’을 꼽았다. AI 도구를 만드는 일 자체는 점점 쉬워지고 있지만, 어떤 문제를 풀어야 하는지, 그 문제가 어느 정도의 사업 가치를 만드는지, 또 현업이 실제로 활용할 수 있도록 설계됐는지를 함께 입증해야 한다는 의미다.

이번 발언은 AI 전환이 더 이상 일부 부서의 실험으로 끝나지 않고, 조직 구조와 인력 전략, 보안 정책까지 함께 손봐야 하는 전사 과제가 됐음을 보여준다. 기업 입장에서는 기술 도입 속도보다 이를 뒷받침할 운영 체계와 실행 모델을 갖추는 일이 성패를 가를 가능성이 커지고 있다.