버셀 AI 게이트웨이, 오픈 모델 토큰 56%…지출은 앤스로픽 64%

오픈 웨이트 모델이 2026년 8월 버셀 AI Gateway에서 처리한 토큰 사용량의 56%를 차지했다. 반면 지출 비중은 14%에 그쳐 사용량과 비용의 주도권이 갈렸다.

버셀(Vercel)은 17일 공개한 ‘AI Gateway Production Index’에서 이같이 밝혔다. 오픈 웨이트 모델의 토큰 비중은 2025년 12월 7% 미만에서 8개월 만에 과반으로 확대됐다. 2026년 4월 비중은 집계 기준 변경에 따라 13%로 제시됐다.

AI Gateway는 여러 AI 모델과 애플리케이션 사이에서 요청을 중개하는 서비스다. 버셀은 게이트웨이를 통과한 익명·합산 자료를 집계했으며, 토큰에는 입력·출력뿐 아니라 추론, 캐시 입력, 캐시 생성 토큰도 포함했다.

지출에서는 폐쇄형 모델이 우위를 유지했다. 앤스로픽(Anthropic)은 전체 지출의 64%를 차지했고, 오픈 웨이트 모델의 지출 비중은 14%였다.

버셀은 앤스로픽 모델이 상대적으로 가격이 높은 고난도 작업에 사용되는 경향이 있다고 설명했다. 토큰 사용량이 많다고 해서 지출 규모까지 큰 것은 아니라는 뜻이다.

사용량과 비용이 엇갈린 배경에는 모델 라우팅 방식이 있다. 저비용 모델은 대량 처리 업무에 배치하고, 높은 품질이나 추론 성능이 필요한 작업에는 프런티어 모델을 사용하는 구조다.

따라서 오픈 웨이트 모델의 사용량 확대가 모든 작업을 폐쇄형 모델에서 대체했다는 의미는 아니다. 비용이 낮은 모델과 성능이 높은 모델을 작업별로 나눠 쓰는 방식이 함께 나타난 것으로 볼 수 있다.

토큰 비용도 낮아졌다. 버셀은 8월 평균 토큰 가격이 전월보다 23.2% 하락해 3개월 연속 내림세를 기록했다고 밝혔다.

두 달 연속 1000만 토큰 이상을 사용한 팀만 비교하면 중간값 기준 비용은 7.6% 감소했다. 전체 평균과 특정 사용 팀의 중간값은 집계 대상이 다르므로 같은 지표로 해석해서는 안 된다.

버셀은 7월부터 AI Gateway 리더보드 데이터를 API와 CSV 형태로 공개하고 있다. 리더보드는 모델별 토큰 사용량과 지출을 따로 제공한다.

최신 일일 데이터에서 오픈 웨이트 모델 비중은 78.4%로 표시된다. 다만 이 수치는 최근 3개월의 특정 기준일 자료로, 2026년 8월 월간 비중인 56%와 직접 비교할 수 없다.

이번 자료는 기업이 단일 모델에 사용량을 몰기보다 비용과 성능에 따라 모델을 나눠 쓰고 있음을 보여준다. 앞서 앤스로픽이 기업용 AI API 지출에서 높은 비중을 차지했다는 본지 보도에서도 지출과 토큰 사용량이 서로 다른 흐름을 보인 바 있다.

오픈 웨이트 모델은 가중치를 공개해 개발자나 기업이 자체 환경에서 실행하거나 수정할 수 있는 모델이다. 폐쇄형 모델은 가중치와 운영 방식이 공개되지 않고 API 등으로 제공된다.

이 차이는 비용과 통제권을 중시하는 개발 환경에서 모델 선택 기준으로 작용할 수 있다. 다만 자체 인프라에서 오픈 웨이트 모델을 운영할 경우에는 모델 이용료 외에 GPU, 배포 도구와 유지 관리 비용을 함께 고려해야 한다.

이번 수치를 전체 AI 시장의 점유율로 확대 해석할 수는 없다. 버셀 AI Gateway를 통과한 특정 인프라의 익명 트래픽을 집계한 자료이기 때문에, 전체 AI 서비스와 기업의 사용 패턴을 대표한다고 단정하기 어렵다.