구글에서 선호하는 출처로 추가

인도 GPU서 중국 AI 모델 제공…사르밤 ‘AI 주권’ 논쟁

현재 API 문서에는 12개 모델이 표시됐고, 사르밤은 루피 기반 가격과 인도 내 데이터 처리를 내세웠다.

인도 데이터센터에서 GPU 보드를 장착하는 작업 / TokenPost.ai

인도 AI 기업 사르밤 AI(Sarvam AI)가 11월 16일 인도 GPU 클러스터에서 자체 모델과 오픈 웨이트 모델을 제공하는 추론 서비스 ‘토큰 팩토리(Token Factory)’를 공개했다. 개발자와 기업은 오픈AI(OpenAI) 호환 API 하나로 여러 모델을 호출할 수 있으며, 중국산 모델도 포함됐다.

사르밤은 공식 블로그에서 토큰 팩토리가 개발자와 기업을 대상으로 한다고 밝혔다. 출시문에는 사르밤 105B, GLM 5.3, GLM 5.3 Flash, 딥시크(DeepSeek) V4.1 Flash 1017, 딥시크 V4 Pro, 키미(Kimi) K3.1 Pro, 젬마(Gemma) 4 31B 등 7개 모델이 명시됐다.

현재 API 문서에는 사르밤 프리즘, Qwen 3.8 27B, EmbeddingGemma 2 등을 포함해 12개 모델이 표시됐다. 사르밤 105B와 GLM 5.3 등은 일반 API 키로 이용할 수 있지만, 딥시크 V4 Pro·키미 K3.1 Pro·Qwen 3.8 27B 등은 조직별 Provisioned Throughput 승인이 필요하다.

가격은 100만 토큰 단위로 책정된다. 딥시크 V4.1 Flash 1017의 출시 프로모션 가격은 입력 14루피·출력 55루피, 인터랙티브형은 입력 25루피·출력 105루피다. 사르밤 105B의 출시 프로모션 가격은 입력 10루피·출력 25루피이며 부가가치세는 별도다.

사르밤은 인도 최대 규모의 엔비디아 B200 클러스터를 운영한다고 밝혔다. 프롬프트를 해외 모델 개발사 API로 보내지 않고 인도 내 GPU에서 처리하며, 요청 시 데이터 미보존 설정과 기업용 99.95% 가동률 SLA를 제공한다고 설명했다.

토큰 팩토리는 모델을 새로 훈련하는 서비스가 아니라 여러 모델을 대신 실행하는 추론 인프라다. 이용자는 GPU를 직접 구축하지 않고 하나의 API에서 모델을 바꿔 사용할 수 있다.

성능 수치는 사르밤 자체 측정이다. 회사는 사르밤 105B의 첫 토큰 응답 시간이 0.2초, 단일 사용자 처리량이 초당 330토큰이며 젬마 4 31B는 1만 토큰 입력에서 첫 토큰 응답 0.40초와 초당 308토큰을 기록했다고 밝혔다. 사르밤 자체 측정치를 마크테크포스트(MarkTechPost)가 인용한 결과, 같은 입력 조건에서 딥시크 V4.1 Flash 1017의 첫 토큰 응답은 투게더 AI(Together AI) 0.71초, 사르밤 스탠더드 0.90초였다.

서비스에는 딥시크, 문샷 AI(Moonshot AI)의 키미, Z.ai의 GLM, 알리바바(Alibaba·$BABA)의 Qwen, 구글(Google)의 젬마가 함께 포함됐다. 인디언 익스프레스(The Indian Express)는 토대 모델의 가중치와 지식재산을 인도에 보유하는 것과 컴퓨트·데이터 처리 환경을 인도에서 통제하는 것은 다른 주권 개념이라고 분석했다.

프라투시 쿠마르(Pratyush Kumar) 사르밤 AI 공동창업자는 “토큰 팩토리는 사르밤이 사적으로 조달한 GPU에서 운영된다”고 말했다. 이는 정부가 제공한 할인 GPU와 현재 서비스용 장비를 회사가 구분하고 있다는 설명이다.

사르밤은 인도 정부의 인디아AI 미션(IndiaAI Mission)에서 받은 40% 할인 GPU가 자체 모델 훈련에 사용됐으며 2026년 3월 종료됐다고 설명했다. 인도 정부는 사르밤을 토대 모델 개발 기업으로 선정하고 재정·컴퓨팅 지원 규모를 246.72크로르루피로 제시했다.

비벡 라가반(Vivek Raghavan) 사르밤 AI 공동창업자는 “컴퓨트, 데이터와 평가, 모델, 하네스, 애플리케이션 등 AI 스택의 다섯 계층을 모두 확보해야 한다”고 말했다. 외부 인프라 임대에 의존하면 장기적으로 비용과 가격 압력에 노출될 수 있다는 취지다.

아타르바 잉글(Atharva Ingle) 자비스랩스(Jarvislabs) AI 엔지니어는 X에서 “우리 서비스가 사르밤과 같거나 더 빠르고 가격은 낮다”고 밝혔다. 사르밤 자체 벤치마크를 겨냥한 직접 반박이다.

루투라지 비스와스(Ruturaj Biswas) 하이퍼그로(Hypergro) 창업자는 “추론 서비스에서 나오는 현금흐름이 자체 모델 개발과 추가 자금 조달을 도울 수 있다”고 평가했다. 추론 서비스 수익을 자체 모델 개발 재원으로 활용할 수 있다는 취지다.

본지는 앞서 사르밤이 딥시크 API를 공개하고 하루 4500억 토큰 처리량을 제시한 사실을 보도했다. 이번 서비스 공개에서는 API 문서에 현재 12개 모델이 표시되고 일부 모델에 조직별 승인 절차가 붙었다는 점이 추가로 확인됐다.

이번 서비스는 가상자산이나 블록체인 사업이 아니라 AI 추론 인프라다. 반도체 측면에서는 엔비디아(NVIDIA·$NVDA) B200 GPU와 데이터센터 운영이 핵심 자원으로 제시됐다. 속도·가격 수치는 사르밤 자체 측정이며, 실제 이용 가능 모델은 조직별 Provisioned Throughput 승인 여부에 따라 달라진다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기