세일즈포스·엔비디아, 고객 데이터 없는 추론 모델 코아 공개

세일즈포스($CRM)와 엔비디아($NVDA)가 영업·마케팅·고객지원 업무에 특화한 기업용 추론 모델 코아를 공개했다. 코아는 실제 고객 데이터를 학습에 사용하지 않고 업무 환경을 모사한 합성 데이터로 훈련됐다.

코아는 엔비디아의 오픈 웨이트 모델 네모트론(Nemotron)을 기반으로 세일즈포스와 엔비디아가 후속 학습한 모델이다. 세일즈포스는 코아를 자사 에이전트 플랫폼 Agentforce에서 선택할 수 있는 모델로 제공할 예정이다.

테크크런치는 15일 코아가 세일즈포스의 첫 추론 모델이라고 보도했다. Agentforce는 고객 문의 응답, 일정 조율 등 기업의 반복 업무를 처리하는 에이전트를 구축하는 플랫폼이다.

두 회사는 세일즈포스 고객의 실제 데이터를 학습에 사용하지 않았다. 고객센터 상담원과 영업 담당자의 업무 흐름을 모사하고, 다양한 상황을 가정한 합성 데이터를 만들어 모델을 훈련했다.

코아는 범용 모델처럼 복잡한 수학 문제나 일반적인 질문을 해결하는 데 초점을 맞추기보다 기업 현장에서 반복되는 업무를 처리하도록 설계됐다. 고객지원 업무와 영업 업무를 여러 단계로 나눠 수행하는 데 무게를 뒀다.

자예시 고빈다라잔(Jayesh Govindarajan) 세일즈포스 AI 부문 부사장은 “지금까지 추론은 프런티어 모델 제공업체에 의존해 왔다”며 “이제는 그렇지 않다”고 말했다. 세일즈포스가 자체 기업용 추론 모델을 개발하려면 성능과 데이터 출처가 확인된 사전 학습 모델이 필요했다는 설명이다.

고빈다라잔 부사장은 네모트론이 기업용 모델의 출발점이 될 수 있었던 이유로 공개된 데이터 출처와 성능을 들었다. 세일즈포스는 네모트론을 바탕으로 범용 모델을 영업·마케팅·고객지원 업무에 맞는 모델로 조정했다.

오픈 웨이트 모델은 모델의 가중치를 공개해 사용자가 직접 실행하거나 조정할 수 있는 방식이다. 소스코드와 학습 데이터까지 모두 공개하는 오픈소스와는 구분되며, 기업은 라이선스와 내부망 운용 가능 여부를 함께 검토해야 한다.

코아는 폐쇄형 모델을 외부로 호출하는 대신 세일즈포스의 데이터 환경 안에서 작동하도록 설계됐다. 세일즈포스는 고객의 데이터 요구사항과 보안 정책을 반영하고, 고객 데이터가 다른 이용자에게 노출될 위험을 줄일 수 있다고 설명했다.

다만 세일즈포스는 코아의 실제 성능이나 비용 절감 폭을 보여주는 구체적인 수치를 공개하지 않았다. 기업용 모델 도입 효과는 업무 정확도뿐 아니라 응답 속도와 운영 비용, 데이터 통제 수준을 함께 따져야 한다.

카리 앤 브리스키(Kari Ann Briski) 엔비디아 엔터프라이즈 생성형 AI 소프트웨어 부사장은 네모트론 기반 구조가 추론 과정에서 토큰을 효율적으로 사용할 수 있다고 말했다. 토큰은 AI 모델이 입력과 출력을 처리하는 단위로, 같은 업무를 더 적은 토큰으로 처리하면 모델 운영 비용을 낮출 여지가 있다.

세일즈포스는 외부 모델과의 협력도 이어간다. 회사는 앤스로픽과 클로드를 세일즈포스 시스템 안에서 사용할 수 있도록 하는 ClaudeForce 협력을 발표했으며, Agentforce에서 업무 성격에 따라 클로드·챗GPT·코아를 선택하는 구조를 활용할 예정이다.

이 같은 AI 게이트웨이는 하나의 모델만 고정해 쓰는 방식과 다르다. 업무의 복잡도와 데이터 요구사항에 따라 적합한 모델을 선택하고, 기업 데이터는 세일즈포스 환경 안에 둔다는 구상이다.

코아 연구진은 고객 데이터 없이 공개 데이터와 합성 데이터를 활용해 모델을 후속 학습했다고 밝혔다. 코아는 도구를 여러 차례 호출하는 업무에서 기반 모델보다 개선된 성능을 보였지만, 가장 강력한 프런티어 모델보다는 낮은 성능을 기록했다.

이번 공개는 엔비디아가 기업용 오픈 모델을 확장해 온 흐름과도 이어진다. 기업용 AI 시장에서는 모델 자체의 성능뿐 아니라 기업 데이터의 통제, 내부 배포, 추론 비용을 함께 관리하는 구조가 중요해지고 있다.

국내 기업이 비슷한 모델을 검토할 때도 클라우드 API 사용과 내부 배포 사이의 선택이 핵심 기준이 될 수 있다. 외부 모델 호출은 구축 부담을 줄일 수 있지만 데이터 통제 범위가 좁아질 수 있고, 내부 운용은 통제력을 높이는 대신 하드웨어와 운영 부담이 커질 수 있다.

세일즈포스는 코아를 Agentforce에서 외부 모델과 함께 선택할 수 있는 기업용 추론 모델로 제공할 예정이다. 구체적인 성능과 비용 절감 수치는 공개되지 않은 가운데, 실제 기업 업무에서 코아가 어느 수준의 처리 효율을 보여줄지에 관심이 모인다.