IBM, AI를 기업 운영의 중심으로… '디지털 노동 시스템' 구축 본격화

IBM이 기업 전반에 AI를 내재화하는 전략을 본격화하고 있다. 단순한 백엔드 자동화 수준을 넘어, AI 자체를 운영의 중심축으로 삼아 조직 구조, 고객 서비스, 지속가능경영, 인력 개발 전반에 걸쳐 전환을 시도하는 것이 핵심이다. 이는 단순한 기술 채택을 넘어, 모든 의사결정 과정에 데이터 기반 통찰력을 투입하려는 시도로 풀이된다.

IBM은 지난 3월 ‘AI 기반 비즈니스 운영 전략’ 컨퍼런스를 통해 이 같은 청사진을 공개했다. 당시 IBM은 인공지능이 업무 구조 자체를 재정의하고 있으며, 생산성 가속기를 넘어서 조직 단위의 의사결정 레이어로 진화하고 있다고 강조했다. 특히 조달, 고객 응대, 지속가능성 회계 등 다양한 부문에서 결과 지향의 AI 도입 사례를 구체적으로 공유하며 전략의 실행 가능성을 부각시켰다.

IBM의 전략 실행은 빠르게 현실화되고 있다. 이 기업은 복잡한 엔터프라이즈 환경에 특화된 소형 AI 모델을 구축하고, 모델 신뢰성과 가시성을 핵심 아키텍처로 채택했으며, AI를 대규모로 안전하게 오케스트레이션하기 위한 기술 토대를 마련했다. AI를 조직 외곽에 두는 것이 아니라 비즈니스 운영 전반의 중심 시스템으로 통합하는 방향이다.

예를 들어 콜센터 운영에서는 기존의 챗봇을 넘어, 생성형 대화 에이전트가 고객과 실시간으로 맥락 기반 상담을 제공하는 체계를 도입했다. 이를 통해 고객 만족도 지표인 NPS(Net Promoter Score)를 기존보다 높이는 데 성공했다. 또한 시멘스 및 세멕스(Cemex)와의 사례에서 보듯, AI는 탄소 감축 목표에 따른 보상 체계 설계, 재무 시스템 통합 등에도 활용돼 ESG와 수익성 간의 균형을 맞추는 데 기여하고 있다.

IBM은 AI를 인력 전략에도 적용하고 있다. 기술과 비즈니스 양쪽에 능통한 '퍼플 스퀘럴(purple squirrel)' 인재를 양성하고, 직원들에게 AI 도구를 직접 실험하고 재설계하는 해커톤 챌린지를 주도하며 AI 실무 역량을 강화하는 중이다.

이 같은 전략은 지난 5월 ‘MWC25’와 ‘AI 에이전트 빌더 서밋’ 등 국제 컨퍼런스를 통해 한층 구체화됐다. IBM은 시계열 데이터를 예측하는 '타이니 타임 믹서(Tiny Time Mixer)' 등 특화 모델을 발표하며 범용 LLM의 한계를 보완하고, 원인 기반 판단이 가능한 인과 AI(Causal AI)를 통해 설명 가능한 자동화와 의사결정을 제시했다.

또한 레드햇 서밋에서는 IBM의 관측 플랫폼인 ‘인스타나(Instana)’와 AI 플랫폼 ‘왓슨X(watsonx)’의 통합으로 장애 대응과 문제 해결을 자동화하는 기술을 공개했다. 이는 AI가 시스템의 운영 안정성 확보에도 중추 역할을 한다는 점을 보여준다.

IBM의 전략은 단지 기술력에 국한되지 않고, 이를 대규모 오케스트레이션할 수 있는 플랫폼 통합으로 이어지고 있다. ‘왓슨X 오케스트레이트(watsonx Orchestrate)’는 AI 에이전트를 하이브리드 환경 전반에서 제어하고 연결하는 ‘시맨틱 컨트롤 플레인’으로, 모든 비즈니스 기능을 모듈화하고 상호운용성을 강화하는 기반 역할을 수행한다. 이를 통해 IBM은 AI를 단위 기능이 아닌 디지털 노동의 관리 체계로 확장하는 데 박차를 가하고 있다.

업계 전문가들도 이 같은 방향성을 긍정적으로 본다. ZK리서치의 Zeus Kerravala는 IBM이 파트너 생태계를 통해 대기업 수요에 맞는 혁신적 활용 사례를 지속적으로 창출하고 있다고 평가했으며, SanjMo의 Sanjeev Mohan은 왓슨X 데이터, AI, 거버넌스를 삼각 축으로 아키텍처를 모듈화한다고 분석했다.

IBM의 행보는 대규모 기업 고객을 중심으로 복잡한 AI 활용을 현실화하려는 전략으로, 신뢰 가능한 AI 시스템 구축, 분산 환경에서의 통합 운영, 의사결정 기반 자동화라는 세 가지 축을 중심으로 움직이고 있다. 이는 IBM이 마이크로소프트(MSFT), 구글(GOOGL) 등과는 다른 방식으로 엔터프라이즈 AI 시장을 공략하고 있다는 점을 드러낸다.

AI를 단순한 툴이 아닌 디지털 운영 체계의 핵심 축으로 활용하려는 IBM의 전략은, 기술 인프라를 넘어서 조직 설계 방식과 일하는 문화 자체를 재정의하는 흐름으로 연결되고 있다. 이번 행보는 AI의 대중화 이후 어떤 기업이 진정한 디지털 전환을 이루고, 또 어떤 기업이 새로운 경쟁 질서에서 앞서 나갈 것인지 가늠할 수 있는 기준점이 될 것으로 보인다.