기업 AI, 실험에서 운영으로… IBM ‘신뢰·거버넌스’ 전략 시험대

기업 인공지능(AI) 시장의 초점이 ‘실험’에서 ‘운영’으로 옮겨가고 있다. 화려한 모델 경쟁보다 실제 업무 환경에서 안전하게 작동하는 ‘거버넌스 기반 기업형 AI’가 더 중요해졌고, IBM($IBM)이 이 지점에서 존재감을 키우고 있다는 평가가 나온다.

실리콘앵글의 보도와 더큐브리서치(theCUBE Research)의 존 퍼리어(John Furrier) 수석 애널리스트에 따르면, IBM은 AI 유행을 좇기보다 복잡한 기업 환경에서 신뢰할 수 있는 실행 체계를 구축하는 데 집중하고 있다. 그는 “IBM은 AI ‘하이프’ 사이클에서 이기려는 것이 아니라 기업의 현실에서 이기려 한다”며 “왓슨x(watsonx)가 통제된 데이터와 복잡한 환경 안에서 실제 배치 사례를 보여준다면 IBM은 2차 AI 물결의 강력한 주자로 떠오를 수 있다”고 말했다.

파일럿 넘어 운영 단계로… 기업형 AI의 기준이 달라졌다

이제 기업들은 단순한 생성형 AI 도입을 넘어 자동화, 에이전트형 AI, 비용 통제, 감사 가능성, 데이터 신뢰성까지 함께 요구하고 있다. AI를 붙이는 것만으로는 부족하고, 여러 시스템과 부서에 걸쳐 안정적으로 운영할 수 있어야 한다는 뜻이다.

퍼리어는 IBM의 기회가 바로 여기에 있다고 봤다. 그는 “다른 기업들이 최첨단 모델 경쟁에 몰두하는 동안 IBM은 훨씬 어려운 문제, 즉 실제 운영 환경에서 신뢰할 수 있는 AI에 베팅하고 있다”고 평가했다. 핵심은 IBM이 기업형 AI의 ‘기록 시스템’이 될 수 있느냐, 아니면 단순히 여러 솔루션 중 하나로 남느냐는 점이다.

IBM은 왓슨x를 중심으로 오케스트레이션, 거버넌스, 하이브리드 배포 역량을 묶어 기업형 AI 플랫폼을 구축하고 있다. 이는 오픈AI나 앤스로픽처럼 모델 성능 자체로 승부하기보다, 규제가 많고 시스템이 복잡한 현실의 기업 환경에서 실질적인 가치를 만드는 접근에 가깝다.

하이브리드 클라우드가 IBM의 ‘현실적 우위’

IBM의 또 다른 강점으로는 하이브리드 클라우드가 꼽힌다. 기업의 AI 워크로드는 퍼블릭 클라우드뿐 아니라 프라이빗 시스템, 온프레미스, 메인프레임, 엣지 환경까지 분산돼 있다. 이런 상황에서 하나의 클라우드에만 의존하지 않는 IBM의 구조가 유리하게 작용할 수 있다는 분석이다.

퍼리어는 “AI는 단일 클라우드 안에서만 돌아가지 않는다”며 “레드햇(Red Hat)을 중심으로 한 IBM의 하이브리드 모델은 온프레미스, 프라이빗, 퍼블릭 환경 전반에서 AI를 조율할 수 있게 해준다”고 설명했다. 특히 규제가 엄격한 대형 기업일수록 이런 구조의 전략적 가치가 크다는 것이다.

이 같은 배경에는 레드햇 인수 효과도 있다. IBM 최고재무책임자(CFO) 짐 캐버노(Jim Kavanaugh)는 최근 인터뷰에서 당시 인수 판단의 전제가 세 가지였다고 밝혔다. 하이브리드 클라우드와 AI의 결합, 멀티클라우드 확산, 그리고 다양한 환경에서의 워크로드 최적화다. 그는 현재 AI가 고립된 코파일럿 수준을 넘어 실제 데이터와 인프라, 업무 로직을 건드리는 ‘에이전트형 시스템’으로 진화하면서 이런 기반의 가치가 더 커졌다고 설명했다.

보안도 핵심… IBM, 양자내성 암호 전환 준비 강조

IBM의 ‘신뢰’ 전략은 보안 영역으로도 확장된다. 특히 양자컴퓨팅 확산에 따라 기존 공개키 기반 암호 체계가 장기적으로 무력화될 수 있다는 우려가 커지는 가운데, IBM은 기업들에 ‘지금부터’ 암호 체계 전환 준비를 서둘러야 한다고 강조했다.

IBM 사이버보안 서비스 글로벌 매니징 파트너 마크 휴즈(Mark Hughes)는 2035년을 전후해 양자 취약성이 있는 공개키 알고리즘이 사실상 퇴장 수순에 들어갈 수 있다고 보고, 암호 자산 가시성과 ‘크립토 민첩성’ 확보가 필수라고 짚었다. 이는 특정 암호 기술에 하드코딩된 기존 방식에서 벗어나 변화하는 보안 환경에 맞게 유연하게 대응할 수 있는 체계를 뜻한다.

AI 수익성 검증 본격화… CFO 역할도 달라진다

기업형 AI가 본격적인 투자 단계로 들어서면서, 경영진은 이제 활동량이 아니라 실제 수익과 생산성 개선 효과를 요구받고 있다. 이 때문에 AI는 더 이상 기술 부서만의 과제가 아니라 재무, 운영, 전략 조직이 함께 설계해야 하는 경영 의제가 되고 있다.

캐버노는 CFO의 역할이 장기적인 경쟁우위와 가치 창출에 맞춰져야 한다고 강조했다. 전략적 시야, 사업모델 혁신, 조직 민첩성이 핵심이라는 설명이다. 그는 CEO와 함께 AI 비전과 사업 전략을 공동 설계하는 CFO가 새로운 가치의 원천을 만들고 시장을 재편할 수 있다고 말했다.

이는 IBM이 말하는 기업형 AI의 본질과도 맞닿아 있다. 거버넌스, 하이브리드 아키텍처, 업무 프로세스 재설계는 따로 떨어진 과제가 아니라 하나의 가치 방정식이라는 의미다.

에이전트형 AI 확산… ‘감독 가능한 자동화’가 새 기준

특히 에이전트형 AI는 기업의 위험 관리 기준을 한층 높이고 있다. 기존 소프트웨어가 사용자의 명령을 기다리는 방식이었다면, 에이전트형 AI는 여러 시스템을 넘나들며 스스로 작업을 실행하고 의사결정 과정에 개입할 수 있다. 그만큼 관측 가능성, 책임소재, 인간의 최종 통제 장치가 중요해진다.

캐버노는 이번 변화를 자신의 경력에서 가장 강력한 변곡점이라고 평가했다. 그러면서 기업과 산업, 경제 전반이 이 기술을 ‘책임 있게’ 확장해야 하며, 공공의 이익과 실제 가치 창출 사이의 균형을 맞춰야 한다고 말했다.

결국 IBM의 승부는 가장 눈에 띄는 AI 기업이 되는 데 있지 않다. 대신 규제가 강하고 기존 시스템이 복잡한 기업들에 ‘믿고 쓸 수 있는 AI’를 제공하는 파트너가 되는 데 있다. 시장이 파일럿에서 생산 단계로 넘어가는 지금, IBM의 기업형 AI 전략은 ‘속도’보다 ‘신뢰’가 더 중요한 국면에서 시험대에 오른 모습이다.