“AI가 결정을 내리는 시대”… 기업, 데이터 인프라 재정비 시급

| 김민준 기자

기업들이 AI 에이전트를 본격적으로 도입하기 위해 가장 먼저 해결해야 할 과제는 '데이터 현대화'라는 전략적 전환이 필요하다는 주장이 힘을 얻고 있다. 특히 단순 자동화 차원을 넘어 의사결정 자체를 자동화하는 '에이전틱 AI(agentic AI)'가 확산되면서, 그 기반이 되는 기업 데이터 인프라에 대한 시급한 재정비 요구가 높아지고 있다.

임페투스 테크놀로지스(Impetus Technologies)의 최고마케팅책임자(CMO) 제프 베이스는 최근 AWS 리인벤트 2025 행사에서 “지난 20년간 우리는 과제 자동화에 집중해 왔다. 하지만 지금 중요한 건 결정 그 자체를 자동화하는 것”이라고 강조했다. 그는 오늘날 기업들이 레거시 시스템부터 퍼블릭 클라우드에 이르기까지 다양한 세대의 기술을 동시에 유지하고 있는 현실을 지적하며, 이러한 이질적인 시스템 간 통합이 바로 데이터 현대화의 핵심 과제라고 설명했다.

특히 임페투스는 데이터를 기반으로 클라우드 환경의 비용 가시성과 운영 효율을 동시에 확보하기 위해 AI 기반 관측 플랫폼인 '프리즘(Prism)'을 출시했다. 이 플랫폼은 과거 단순한 후행 분석에 그쳤던 데이터 시스템을 선제 대응형 프레임워크로 전환함으로써, 기업이 클라우드 활용 비용을 예측하고 과잉 지출을 사전에 방지할 수 있도록 돕는다.

에이전틱 AI의 도입은 비용 이슈 외에도 위험관리 측면에서도 강한 긴장감을 유발하고 있다. 베이스는 “AI 에이전트에게 자율권을 준다는 것은 마치 10대에게 신용카드를 맡기고 주말여행을 떠나는 것과 같다”며, AI가 실행 주체로 등장하는 이상 체계적인 통제와 거버넌스가 절대적으로 필요하다고 경고했다.

임페투스의 최고매출책임자(CRO) 아난드 라만은 “CIO들이 가장 걱정하는 것은 내 데이터가 외부로 유출되는가, 혹은 데이터의 이상값이 의사결정에 잘못 반영되는가에 대한 불확실성”이라며, 이를 해결하기 위해선 데이터 접근 권한부터 보안, AI 모델 추론 논리에 이르기까지 전방위적 검토가 필요하다고 말했다.

결국 기업이 에이전틱 AI를 성공적으로 도입하려면, 단지 알고리즘이나 모델 우위 확보만으로는 부족하다. 클라우드 비용 제어, 데이터 통합, 리스크 거버넌스 등 복합적 요소에 대한 균형 감각이 필수적이며, 데이터 인프라를 기반으로 한 경제성 중심의 전략이 뒷받침돼야 한다는 점이 강조되고 있다.