기업 AI 주도권, 에이전트보다 ‘지능형 백엔드’에 달렸다

기업용 인공지능(AI) 경쟁이 스노우플레이크와 데이터브릭스의 대결, 코파일럿과 에이전트의 경쟁처럼 따로 흩어진 싸움으로 보이지만, 실제 전장은 더 큰 한 곳으로 모이고 있다. 핵심은 누가 새로운 ‘지능형 클라이언트’를 장악하고, 이를 뒷받침하는 ‘지능형 백엔드’를 구축하느냐다.

지능형 클라이언트는 사용자가 업무를 수행하는 새로운 접점이다. 스노우플레이크의 코워크(CoWork)와 코코(CoCo), 데이터브릭스의 지니(Genie), 마이크로소프트($MSFT)의 코파일럿, 구글의 제미나이 엔터프라이즈, 오픈AI의 챗GPT·코덱스, 앤스로픽의 클로드 등이 여기에 해당한다. 이들 서비스는 단순한 챗봇이 아니라 비즈니스 사용자와 개발자, AI 에이전트가 함께 일하는 ‘업무 인터페이스’로 진화하고 있다.

문제는 이런 클라이언트만으로는 기업 현장에서 신뢰할 만한 AI를 만들기 어렵다는 점이다. 사용자의 질문을 이해하고, 기업 데이터와 규칙, 조직의 암묵지를 연결해 실제 업무 흐름에 맞게 판단하려면 강한 백엔드가 필요하다. 이 계층이 바로 ‘지능 시스템’으로 불리는 영역이다.

왜 ‘에이전트 홍수’가 오히려 사일로를 키우나

최근 시장에는 산업별 특화 에이전트와 에이전트 개발 도구가 쏟아지고 있다. 단기적으로는 투자수익률을 수치로 확인하기 쉽고, 진입 장벽도 낮기 때문이다. 다만 이런 확산이 기업 전체 관점에서는 또 다른 ‘사일로’를 만들 수 있다는 우려가 나온다.

즉, 개별 부서나 업무에 유용한 에이전트가 늘어날수록 기업 전체 운영방식은 더 파편화될 수 있다. 지속 가능한 기업 가치는 단순히 에이전트를 많이 만드는 데서 나오지 않는다. 실제로는 데이터, 규칙, 예외 처리, 협업 방식까지 묶어 기업이 ‘어떻게 돌아가는지’를 담아내는 종단간 인프라가 있어야 한다는 의미다.

이 때문에 지능형 클라이언트와 지능형 백엔드는 따로 설계할 수 없다는 분석이 나온다. 사용자가 업무를 처리하는 과정 자체가 백엔드 학습의 재료가 되기 때문이다. 질문 이력, 스킬, 생성한 산출물, 수정한 답변, 에이전트의 추론 흔적이 모두 ‘조직 지능’으로 축적되는 구조다.

AI 소프트웨어 스택의 중심, ‘지능 시스템’으로 이동

현재 AI 소프트웨어 구조는 크게 데이터 플랫폼, 기록 시스템, 지능 시스템, 참여 시스템, 실행 시스템으로 나뉘는 방향으로 정리되고 있다. 이 가운데 가장 가치가 큰 층으로 떠오르는 곳이 중간의 ‘지능 시스템’이다.

이 계층에서는 스노우플레이크가 호라이즌 컨텍스트와 코텍스 센스를, 데이터브릭스는 유니티 카탈로그를, 마이크로소프트는 워크 IQ·패브릭 IQ를 앞세우고 있다. SAP와 세일즈포스도 각각 데이터 클라우드와 비즈니스 데이터 클라우드로 영향력을 지키려 한다. 대형언어모델 기업들 역시 이 영역으로 확장하려는 움직임을 보이고 있다.

이 지능 시스템은 흩어진 분석 데이터와 운영 애플리케이션의 논리를 묶고, 조직 내 축적된 지식을 구조화한다. 그래야 AI 에이전트가 현재 기업 상태를 이해하고, 어떤 행동이 가능한지 판단하며, 일정 수준의 신뢰를 갖고 실행할 수 있다.

요컨대 참여 시스템이 새로운 ‘지능형 클라이언트’라면, 지능 시스템은 이를 뒷받침하는 ‘지능형 백엔드’다. 그리고 앞으로 승자를 가를 기준은 둘 사이의 피드백 루프를 얼마나 촘촘하게 만들 수 있느냐가 될 가능성이 크다.

스노우플레이크의 승부수, 코워크와 코코

스노우플레이크는 최근 서밋에서 사용자 접점을 보다 분명히 나눴다. 코코는 개발자와 데이터 엔지니어, 분석가를 위한 빌더용 도구이고, 코워크는 비즈니스 사용자와 지식 노동자를 위한 인터페이스다. 이름 자체보다 중요한 것은 이 제품들이 스노우플레이크의 ‘지능형 클라이언트’ 전략을 분명히 보여줬다는 점이다.

특히 코워크는 단순 질의응답 도구를 넘어 기업 데이터 기반 ‘딥 리서치’, 대시보드와 아티팩트 생성, 협업형 지식 축적, 재사용 가능한 스킬, 외부 애플리케이션 연동까지 노린다. 사용자가 코워크에서 남기는 질문, 수정, 공유, 반복 작업이 모두 지능형 백엔드 학습으로 이어질 수 있다는 뜻이다.

이는 과거 검색증강생성(RAG) 기반 챗봇이 보여준 한계를 넘어서는 시도이기도 하다. 당시에는 대형언어모델과 벡터 데이터베이스를 연결하는 수준에 머물러 기업 맥락과 실무 판단까지 담아내지 못했다. 지금의 에이전트 열풍도 같은 한계에 부딪힐 가능성이 있다. 오케스트레이션만으로는 신뢰 문제를 해결할 수 없고, 결국 기업 상태와 규칙을 이해하는 지능형 백엔드가 필요하다는 얘기다.

카탈로그를 넘어 ‘기업 운영 모델’로 가는 길

스노우플레이크의 호라이즌 컨텍스트는 메타데이터 수집과 계보 추적, 인기 지표, 시맨틱 뷰, 비즈니스 용어사전 등을 결합해 AI와 BI, 에이전트가 더 정확한 맥락을 이해하도록 돕는다. 다만 이 단계는 아직 ‘정의 정리’에 가깝다.

더 높은 단계로 가려면 고객, 주문, 재고, 계약, 승인, 리스크, 워크플로 같은 요소가 어떻게 연결되는지까지 표현해야 한다. 단순히 ‘매출이 무엇인지’ 정의하는 수준이 아니라, 기업이 어떤 조건에서 어떤 행동을 하는지까지 모델링해야 진짜 지능 시스템에 가까워진다.

이 과정에서 중요한 것은 완전 자동화가 아니라 ‘사람이 개입하는 학습’이다. 시스템이 여러 정의 충돌을 발견하면, 현업 담당자와 개발자가 어떤 정의가 맞는지 고르고 규칙을 다듬어야 한다. 이렇게 쌓인 선택과 수정이 다시 지능형 백엔드로 흘러 들어간다.

결국 이 구조는 개인 생산성을 조직 지능으로 바꾸는 과정이다. 한 사용자가 만든 스킬이나 아티팩트가 반복 사용되고 검증되면, 개인 도구를 넘어 회사의 공식 자산이 될 수 있다.

진짜 경쟁 상대는 데이터브릭스만이 아니다

이번 분석의 시사점은 분명하다. 스노우플레이크의 경쟁은 더 이상 데이터 플랫폼 시장 안에만 머물지 않는다. 마이크로소프트, 구글, 오픈AI, 앤스로픽, 세일즈포스, SAP, 서비스나우 등 모두가 같은 방향으로 움직이고 있다. 출발점은 다르지만 목표는 같다. 기업이 어떻게 작동하는지를 디지털로 포착하고, 이를 AI가 이해하고 실행할 수 있게 만드는 것이다.

오픈AI와 앤스로픽은 강력한 모델과 사용자 접점을 갖고 있지만, 아직 기업 맥락을 깊게 흡수하는 백엔드에서는 약점이 있다. 반대로 스노우플레이크와 데이터브릭스는 데이터와 거버넌스 기반은 강하지만, 실제 사용자가 머무는 클라이언트 경험에서는 후발주자다. 양측이 서로의 영역으로 침투하고 있는 셈이다.

앞으로 시장의 통제권은 ‘업무가 이뤄지는 장소’와 ‘기업 지능이 만들어지는 장소’를 가장 효과적으로 연결하는 플랫폼에 쏠릴 가능성이 크다. 스노우플레이크가 가진 데이터 중력과 거버넌스, 코워크·코코·호라이즌·코텍스 센스를 하나의 루프로 엮어낼 수 있다면 기회 TP AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 기사를 요약했습니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.