기업들이 에이전트형 인공지능(AI) 기술 도입에 속도를 내는 가운데, 데이터 거버넌스와 투자 수익률(ROI)을 둘러싼 현실적 질문이 AI 전략의 핵심 열쇠로 떠오르고 있다. 단순히 대형 모델을 도입하는 것만으로는 AI가 기업에 실질적인 가치를 제공하기 어렵다는 인식이 퍼지면서, 기업들은 이제 ‘데이터 기반 AI’를 구축하는 데 집중하고 있다.

타이거 애널리틱스(Tiger Analytics)의 데이터 및 AI 담당 부사장 라지브 나야르(Rajeev Nayar)는 최근 열린 구글 클라우드 파트너 AI 시리즈 행사에서 “좋은 AI는 좋은 데이터 없이는 불가능하다”고 강조했다. 그는 이어 “AI 성능을 확장하고 실질적 가치를 얻으려면 처음부터 신뢰할 수 있고 잘 관리된 데이터 인프라를 구축해야 한다”고 말했다.

구글 클라우드의 북미 스타트업 고객 엔지니어링 책임자인 일리아나 키논네즈(Iliana Quinonez) 역시 데이터의 중요성을 반복해서 언급했다. 그녀는 “이제 데이터는 비즈니스의 통화 역할을 한다”면서 “데이터를 수집하고, 활용하며, 보호하고, 필요한 곳에 적용하는 일련의 과정 자체가 미래 경쟁력의 핵심”이라고 밝혔다. ROI 관점에서도 견고한 데이터 기반이 없으면 AI 투자가 지속적인 보상을 내기 어렵다는 것이 그녀의 주장이다.

실제로 일부 선도 기업은 단순한 개념검증(PoC) 수준을 넘어, 멀티링구얼 검색 등 구체적인 과제를 해결하기 위한 에이전트형 플랫폼을 현실에 적용하고 있다. 예를 들어, 나야르는 한 글로벌 기업의 사례를 언급하며 “해당 기업은 글로벌 시장별로 다른 언어와 고유한 사용자 니즈에 대응하기 위해 구글 클라우드의 버텍스 AI와 협력하여 사용자 정의형 에이전트를 개발하는 프로젝트를 시작했다”고 설명했다. 그 결과, 기업 고객들이 직접 자신만의 AI 에이전트를 설정하고 운영할 수 있는 기반이 마련됐다는 설명이다.

결국 AI 스택의 성공은 기술 자체보다도 이를 떠받치는 데이터 거버넌스와 전략적 실행에 달려 있다는 목소리가 커지고 있다. 일회성 솔루션 개발을 넘어, 반복 가능한 에이전트 프레임워크로 전환하려는 이들 기업의 선택이 AI 투자 성과의 격차를 벌릴 것으로 보인다.

AI는 이제 단순한 유행을 넘어 실제 성과로 연결되어야 할 시점이다. 이를 위해, 기업들은 데이터 품질, 관리 체계, 시스템 통합 등 눈에 보이지 않는 뼈대를 먼저 튼튼히 다지는 데 집중해야 한다. 이는 곧 에이전트형 AI의 확장성과 지속가능성을 좌우할 결정적 요인이 될 전망이다.