구글에서 선호하는 출처로 추가

사르밤, 하루 4500억 토큰 처리…딥시크 API 공개

사르밤이 자체 모델과 딥시크 등 외부 모델을 한 API로 호출하는 유료 서비스를 공개했다. 사르밤은 자사 API에서 딥시크 V4.1 플래시가 하루 4500억 토큰 넘게 처리된다고 밝혔다.

노트북에서 AI 모델 API를 다루는 손 / TokenPost.ai

인도 AI 기업 사르밤(Sarvam)이 16일 자체 모델과 딥시크(DeepSeek) 등 외부 모델을 하나의 API로 호출하는 유료 플랫폼 ‘토큰 팩토리’를 공개했다. 연산은 인도에 있는 GPU 클러스터가 맡는다.

사르밤은 공식 발표문에서 개발자와 기업이 자체 모델과 외부 모델을 같은 API로 이용할 수 있다고 밝혔다. 제공 목록에는 사르밤 105B와 딥시크 V4.1 플래시 1017·V4 프로, 문샷AI(Moonshot AI)의 키미 K3.1 프로, Z.AI의 GLM 5.3, 구글의 젬마 4가 포함됐다. 공개 가중치 모델은 모델의 가중치가 공개돼 다른 사업자가 자체 설비에서 실행할 수 있는 모델이다.

딥시크 V4.1 플래시 1017은 사르밤 API 변경 기록에 10월 30일 정식 이용 대상으로 올라 있다. 이번 발표는 여러 모델을 한 플랫폼에 묶어 제공하는 서비스 공개다. 사르밤은 딥시크 V4.1 플래시를 배치 작업용 표준형과 코딩 에이전트용 대화형으로 나눠 제공한다.

사르밤은 딥시크 V4.1 플래시가 하루 4500억 토큰 넘게 처리하고, 입력 토큰의 95.7%가 캐시에서 처리된다고 밝혔다. 토큰은 AI 모델이 입력과 출력을 처리할 때 세는 단위다. 캐시는 앞선 요청에서 계산한 문맥 정보를 다시 사용하는 장치다. 두 수치는 모두 회사가 제시한 운영 실적이다.

토큰 팩토리는 사용량에 따라 비용을 내거나 별도 연산 용량을 확보하는 방식으로 이용할 수 있다. 딥시크 V4.1 플래시 표준형의 도입 요금은 입력 100만 토큰당 14루피, 출력 100만 토큰당 55루피다. 입력과 출력 요금이 달라 처리 토큰 총량만으로 매출을 계산할 수는 없다.

사르밤은 인도 정부의 인디아AI 미션(IndiaAI Mission) 지원을 받았고 라이트스피드(Lightspeed)와 코슬라벤처스(Khosla Ventures)의 투자도 받았다. 비즈니스스탠더드(Business Standard)는 외국 모델의 유료 호출이 인도 자체 AI 개발 목표와 맞지 않는다는 비판이 온라인에서 제기됐다고 보도했다.

프라튜시 쿠마르(Pratyush Kumar) 사르밤 공동창업자는 19일 공개된 블룸버그(Bloomberg) 인터뷰에서 “우리는 계속 인도를 위한 AI 모델을 만들고 있다. 종합 AI 기업이 될 것”이라고 말했다. 쿠마르는 같은 인터뷰에서 모델 호출 서비스의 매출로 자본 투입이 큰 모델 개발을 뒷받침하겠다고 밝혔다.

비벡 라가반(Vivek Raghavan) 사르밤 공동창업자는 19일 공개된 블룸버그 인터뷰에서 “그 GPU는 전적으로 민간 자금으로 마련했다”고 말했다. 그는 인도 내 서버에서 모델을 운영해 이용자 데이터를 인도에 둔다는 점도 강조했다. 사르밤은 16일 발표문에서 제공 모델과 연산 설비를 확대하겠다고 밝혔다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기