기업용 AI, 승부처는 모델이 아니라 데이터 인프라로 옮겨갔다

기업용 인공지능(AI) 시장의 무게중심이 빠르게 이동하고 있다. 초기 AI 수혜주가 그래픽처리장치(GPU), 서버, 네트워크, 클라우드 같은 ‘연산 인프라’였다면, 이제는 기업 데이터와 AI 모델을 연결하고 이를 안전하게 운영하는 ‘소프트웨어·데이터 인프라’가 다음 승부처로 떠오르고 있다.

스노우플레이크는 최근 열린 ‘스노우플레이크 서밋 2026’에서 이 지점을 전면에 내세웠다. 핵심은 기업이 보유한 내부 데이터를 첨단 AI 모델에 연결하고, 그 결과를 실제 업무에 맞게 통제·관리하는 플랫폼이 되겠다는 구상이다. 테크널리시스 리서치의 밥 오도널은 “데이터와 최첨단 모델을 연결하는 고리가 필요하다”며 이 영역이 AI 시대의 새로운 ‘소프트웨어 삽과 곡괭이’가 될 수 있다고 짚었다.

도어대시·파나틱스·후프가 보여준 공통점… ‘좋은 데이터 기반’이 먼저

행사에서 확인된 첫 번째 흐름은 ‘강한 데이터 기반’이 있어야 기업용 AI가 실질적 성과로 이어진다는 점이다. 도어대시는 대규모 머신러닝, 분석, 에이전트형 워크플로를 뒷받침하기 위해 기존의 단일 구조에서 벗어나 데이터 아키텍처를 고도화해 왔다. 도어대시의 데이터 엔지니어링 총괄 바이바브 자주(VJ Jajoo)는 이제 분석 데이터를 소비하는 주체가 사람보다 ‘기계’가 더 빨라지고 있다고 설명했다. AI 에이전트와 ML 피드백 루프가 늘어나면서 유연한 데이터 구조 없이는 새로운 활용 사례를 받쳐주기 어렵다는 의미다.

파나틱스는 이 같은 원칙을 팬 경험 개인화에 적용하고 있다. 여러 채널의 데이터를 통합하고 실시간으로 해석해 팬별 선호를 더 정밀하게 읽어내는 방식이다. 과거 스포츠 비즈니스가 ‘하나의 방송을 다수에게 보내는’ 구조였다면, 이제는 AI를 통해 팬마다 다른 맥락과 관심사를 반영하는 단계로 이동하고 있다는 설명이다.

후프 역시 데이터 표준화와 상호운용성을 핵심 과제로 꼽았다. 이 회사는 3페타바이트가 넘는 데이터와 하루 약 20테라바이트의 신규 데이터를 처리하고 있다. 후프는 이 과정에서 ‘의미론적 온톨로지’, 즉 데이터 의미를 일관되게 해석할 수 있는 체계를 정비해 AI 도구의 가치를 빠르게 끌어냈다고 밝혔다. 이는 단순한 운영 효율을 넘어, 사람이 실제로 더 큰 가치를 더할 수 있는 업무 영역을 재정의하는 변화로 연결되고 있다.

시리우스XM도 비슷한 흐름을 보여줬다. 오디오 콘텐츠에서 중요한 것은 단순히 무엇을 들었는지가 아니라, 어떤 분위기와 상황에서 들었는지까지 파악하는 것이다. 시리우스XM은 팟캐스트 대본, 청취 맥락, 감정과 순간 정보까지 데이터화해 더 정교한 맞춤형 경험을 만드는 데 AI를 활용하고 있다.

보안·거버넌스·신뢰 없이는 기업용 AI도 없다

두 번째 핵심은 기업용 AI가 확산될수록 보안과 거버넌스, 신뢰 체계가 더 중요해진다는 점이다. 테너블은 스노우플레이크를 보안 데이터 레이크의 기반으로 활용하면서 AI 기반 위험 탐지와 자동 대응 역량을 강화하고 있다. 테너블의 제이슨 메릭은 ‘노출 관리’가 단일 제품이 아니라 프로그램이라고 강조했다. 전통적인 IT 자산뿐 아니라 클라우드, 신원 정보, 설정 상태, 알려진 취약점까지 맥락 안에서 함께 봐야 실제 위험을 줄일 수 있다는 이야기다.

소프트웨어 개발 방식도 바뀌고 있다. 스노우플레이크와 클로버 네트워크는 AI 보조 개발이 코드 작성 속도를 끌어올리는 동시에, 개발 표준과 경계 조건을 모델 단계에서부터 반영해야 한다고 설명했다. 스노우플레이크의 마이크 블랜디나는 AI 에이전트에게 “어떤 경계를 넘지 말아야 하는지, 어떤 코드와 산출물을 써야 하는지”를 사전에 입력해 소프트웨어 개발 생명주기 전반에서 이를 일관되게 지킬 수 있다고 말했다.

헬스케어에서는 ‘신뢰 가능한 AI’의 중요성이 더 크다. 코모도 헬스는 3억3000만명 이상의 비식별 환자 여정을 장기적으로 추적한 데이터 기반 위에 설명 가능한 AI 워크플로를 구축하고 있다. 평균 환자 차트 분량이 4만6000단어에 이르는 상황에서, AI는 의료진이 방대한 기록을 신속히 이해하고 환자별로 더 정확한 판단을 내리는 데 도움을 줄 수 있다. 다만 이 경우에도 전제는 데이터 품질과 해석 가능성이다.

생산 단계로 가는 기업용 AI… 핵심은 ‘통제된 지능’

세 번째 흐름은 기업용 AI가 실험 단계를 넘어 실제 운영 환경으로 들어가려면 ‘통제된 지능’이 필요하다는 점이다. 톰슨로이터는 법률, 세무, 감사처럼 검증 불가능한 답을 허용하기 어려운 분야에서 수천 개의 관리형 테이블과 데이터베이스를 기반으로 신뢰 가능한 데이터 체계를 구축해 왔다. 단순히 AI를 붙이는 것이 아니라, 해당 산업의 업무 흐름과 공공성을 이해한 상태에서 ‘목적에 맞는’ 방식으로 도입해야 한다는 설명이다.

인터컨티넨털 익스체인지와 뉴욕증권거래소도 같은 맥락을 제시했다. 이들 조직은 오랜 기간 데이터 품질, 접근통제, 거버넌스에 투자해 왔고, 그 결과 AI 도입 시 규제가 걸림돌이 되기보다는 오히려 ‘마찰을 줄이는 장치’로 작동하고 있다고 밝혔다. 필요한 사람이 필요한 정보를 제때 얻을 수 있어야 기업용 AI도 속도를 낼 수 있다는 의미다.

또 하나 주목할 부분은 범용 모델만으로는 한계가 있다는 점이다. 리졸브 AI는 사이트 신뢰성 엔지니어링 같은 특정 업무에는 ‘도메인 특화 모델’이 더 적합하다고 봤다. 범용 최첨단 모델은 넓은 문제를 다루는 데 강하지만, 특정 산업과 업무에 맞춰 압축된 지능은 속도와 지연 시간, 정확도 측면에서 더 나은 결과를 낼 수 있다는 설명이다.

결국 스노우플레이크 서밋 2026이 던진 메시지는 분명하다. 기업용 AI의 다음 경쟁은 더 큰 모델을 누가 먼저 쓰느냐보다, 기업 데이터와 AI를 얼마나 잘 연결하고 안전하게 통제하며 실제 업무에 맞게 운영하느냐에 달려 있다. AI 시장이 실험에서 배치로 넘어가는 지금, 진짜 가치는 ‘신뢰 가능한 데이터 인프라’에서 만들어지고 있다.