기업들이 생성형 인공지능(Generative AI)을 실전에 도입하면서 단순한 기술 실험을 넘어, 본격적인 비즈니스 전략 전환 단계에 돌입했다. IBM이 주최한 'Think 2025' 행사에서 전문가들은 AI 인프라 확대, 거버넌스 체계 구축, 그리고 실질적인 투자수익(ROI) 확보에 이르기까지 생성형 AI의 현실적 과제가 핵심 아젠다로 부상하고 있다고 강조했다.
브루노 아지자 IBM 데이터 및 인공지능 그룹 부사장은 “이제는 단순한 데모와 화려한 발표보다, 실제 비용과 운영을 고려한 ‘에이전틱 전략’이 중요해졌다”고 밝혔다. IBM은 다양한 산업 파트너, 데이터 전문가들과 함께 생성형 AI의 운영 적용 경로와 전략을 공유하고 있다.
펩시코는 전사적 데이터 통합 플랫폼을 기반으로 조달, 공급망, 고객 접점에 생성형 AI를 도입해 실효를 거두고 있다. 이들의 접근은 초기 프로토타입이 아닌 강건한 데이터 아키텍처에서 시작됐다. 단일 데이터 기반인 ‘EDF(Enterprise Data Foundation)’ 위에 구축한 구조 덕분에, 지역별 시장에서도 빠르고 일관된 성공 사례를 확보하고 있다고 설명했다. IBM과의 협력을 통해 데이터 일관성 및 맥락 기반 분석을 가능케 한 것이 성과의 핵심 요인으로 꼽힌다.
USAA(미국 자동자 협회)는 펩시코의 전략을 바탕으로 생성형 AI를 실시간 업무에 통합하는 데 집중하고 있다. 문서 자동화, 클레임 처리 등 실무에서의 AI 활용은 watsonx의 Granite 모델을 통해 구조화된 결과물로 연결되고 있다. 이로써 비정형 데이터의 정제 및 자동화가 가능해지면서, 인간이 수행하던 의사결정 과정이 AI 기반으로 고도화되는 모습을 보여주고 있다.
하이네켄은 분산된 데이터 환경을 고려한 유연한 데이터 아키텍처를 통해, 로컬 시장 특수성과 글로벌 통합 전략을 조화롭게 조율하고 있다. IBM의 watsonx.data를 기반으로 온프레미스, 클라우드, 하이브리드 환경을 넘나드는 AI 인프라를 구축하면서, 실험적 AI 적용에서 운영 중심의 전략으로 빠르게 이동하고 있다. 하이네켄 CTO인 로널드 덴 엘젠은 “빠르게 변화하는 환경 속에서 기술 유연성이야말로 생존 전략”이라고 강조했다.
IBM의 차별점은 하이퍼스케일 규모의 연산 능력을 경쟁하는 대신, 이질적인 시스템과 데이터를 연결하는 ‘에이전틱 오케스트레이션’ 전략에 있다. 이는 기존 시스템을 유지하면서도 새로운 AI 기능을 계층적으로 도입할 수 있게 한다. IBM의 데이터 전략 책임자 리티카 거너는 “기업 자산을 고스란히 살리면서도 오케스트레이션 계층에서 효과적으로 AI를 배치할 수 있는 것이 IBM의 경쟁력”이라고 말했다.
최근 IBM이 데이터스택스(DataStax)를 인수한 것도 이러한 전략의 일환이다. 생성형 AI 플로우를 비개발자도 조율 가능하게 해주는 Langflow 같은 도구는 watsonx 플랫폼과 통합되어 하나의 통합적 AI 운영 스택으로 진화하고 있다.
AI, 데이터, 거버넌스를 세 축으로 삼아 watsonx.data, watsonx.ai, watsonx.governance를 유기적으로 연결하는 IBM의 시도는, 기업 고객에게 기존 기술 자산을 그대로 활용하면서도 AI 전략을 전사적으로 확대해갈 수 있는 현실적 접근법으로 주목을 받고 있다. 업계 전문가들은 이를 두고 “단순한 AI 기술 공급자를 넘어, 엔터프라이즈 AI 생태계의 오케스트레이터로 변모하고 있다”고 평가하고 있다.