클라우데라·엔비디아, 기업용 AI 생태계 재편… '생산성 중심 재설계' 가속

기업용 인공지능(AI)이 본격적인 '생산 단계'로 진입하면서, 파트너 생태계 전반의 전략적 협력이 그 어느 때보다 중요해지고 있다. 클라우데라(Cloudera)의 최고전략책임자(CSO) 아바사 리키는 기업들이 AI를 단순한 개념 검증이나 파일럿 프로젝트를 넘어 실질 업무흐름에 통합하려면 기술 파트너 간 깊은 협업, 이른바 '공동 설계(co-design)'가 핵심이라고 강조했다.

그는 최근 뉴욕증권거래소와 실리콘앵글(SiliconANGLE)이 공동 주최한 ‘AI 팩토리: 미래 데이터센터’ 행사에서 “AI는 본질적으로 팀 스포츠”라며, 데이터, 모델, 인프라를 아우르는 워크플로 전반에 대한 재구성이 요구된다고 밝혔다. 아울러 단순한 자동화나 디지털화 수준을 넘어 실제 업무 목적에 맞는 '재설계된 흐름'이 필요하다고 덧붙였다.

클라우데라는 현재 엔비디아(NVDA)와 함께 엔터프라이즈 AI 생태계를 구축하고 있으며, 이 과정에서 엔비디아의 추론 마이크로서비스(NIM) 아키텍처에 모델 카탈로그, 고가용성 기능 등을 추가해 기업 고객이 비용 대비 최대 성능(TCO)을 얻을 수 있도록 돕고 있다. 특히 Dell과 공동 개발한 사전 검증된 아키텍처는 기존 수개월 걸리던 AI 도입 기간을 몇 주 수준으로 단축시키는 데 기여하고 있다.

기업용 AI의 확산 속도가 가속화되는 것은 분명하지만, 이 과정에서 '추론 경제학(inference economics)'이 새로운 과제로 대두되고 있다. 단순히 모델을 학습시키는 데서 끝나지 않고, 실제 질문당 비용, 태스크당 GPU 사용시간, 공공 API의 지속적 활용이 낳는 마진 감소와 같은 세부 수치를 정량화해야 하는 시대가 도래한 것이다. 리키는 “지난해와도 비교할 수 없을 만큼 철저한 수익성 평가가 이뤄지고 있다”고 설명했다.

이 같은 변화 속에서 엔비디아의 젠슨 황 CEO까지 “앞으로 기업은 AI를 통한 ‘지능화를 기반으로 한 비즈니스의 재정의’가 가능해질 것”이라고 밝히며, 기업들의 전략적 AI 대응은 더욱 절박해지는 분위기다. 실제로 2025년은 '에이전트 기반 워크플로(agentic workflow)'가 시범 단계를 넘어 완전한 서비스화로 전환되는 원년이 될 것이란 전망이 확산되고 있다.

궁극적으로는 AI의 성패가 기술 자체보다도 이를 실현 가능한 방식으로 통합하고, 운영할 수 있는 에코시스템과 사전 전략에 달려 있다는 게 전문가들의 일치된 분석이다. 클라우데라와 엔비디아의 협업 사례는 그러한 조화를 어떻게 구현해야 하는지를 보여주는 대표적인 선례로 주목받고 있다.