Ornn의 평균 토큰 단가 지표는 5월 이후 67% 하락했다. 안드리센호로위츠의 산술 추정은 지출 160% 증가를, 램프의 별도 집계는 122% 증가를 각각 가리켰다.
안드리센호로위츠(Andreessen Horowitz)는 10월 30일 공개한 주간 차트에서 Ornn의 평균 토큰 단가 지표가 5월 이후 67% 하락했다고 밝혔다. Ornn의 가격과 오픈라우터(OpenRouter)의 사용량을 결합한 지출 추정치는 같은 기간 약 160% 증가했다.
약 160%는 서로 다른 업체의 가격과 사용량을 곱한 산술 추정치다. 램프(Ramp)의 별도 지출 자료에서 나온 약 122%와는 계산 방식이 달라, 두 수치를 한 조사에서 나온 증가율 범위로 읽어서는 안 된다.
이 자료들은 업체가 관측할 수 있는 일부 이용자에 기반해 표본이 작고 편향돼 있다. 전체 AI 시장의 토큰 사용량이나 지출 총액을 대표하는 수치로 일반화하기는 어렵다.
여기서 토큰은 가상자산이 아니다. AI 모델이 입력을 처리하고 답을 생성할 때 쓰는 단위이자 요금 계산의 기준이다. 토큰 단가는 단위당 가격이고 지출은 사용량까지 반영하므로 두 수치가 서로 다른 방향으로 움직일 수 있다.
안드리센호로위츠는 10월 30일 주간 차트에서 토큰 가격 하락과 GPU 임대료 상승이 함께 나타난 흐름을 ‘랙 스프레드’라고 설명했다. 원유와 정제 제품 가격 차이를 비교하는 ‘크랙 스프레드’에 빗댄 표현이다.
다만 GPU 연산과 토큰 사이에는 서로 같은 단위로 환산할 기준이 없다. 토큰 단가와 GPU 임대료의 움직임만으로 모델 업체나 GPU 운영업체의 실제 수익성을 판단할 수는 없다.
본지는 앞서 오픈라우터에서 사용량은 47% 늘었지만 지출 증가율은 7%에 그쳤다고 보도했다. 당시 기사에는 비200(B200) 임대료가 2025년 9월 지수 발표 이후 처음으로 월간 하락했다는 내용도 담겼다.
오픈라우터는 10월 8일 공개한 사용량 분석에서 9월 마지막 주 에이전트용 API 키의 토큰 사용량이 사람용 키의 약 7배였다고 밝혔다. 이 결과는 오픈라우터를 거친 요청에 한정된다.
오픈라우터는 도구 호출 빈도와 대화 단계, 요청 간격 등을 바탕으로 API 키를 에이전트용·사람용·혼합형으로 분류했다. 에이전트용 키와 사람용 키의 사용량을 비교한 결과다.
에이전트는 작업을 여러 단계로 나누고 도구를 호출하면서 앞서 처리한 문맥과 도구 사용 기록을 모델에 반복해 보낸다. 이런 작업 방식은 토큰 사용량을 늘릴 수 있다.
오픈라우터는 9월 에이전트 토큰 가운데 캐시된 프롬프트가 90%에 조금 못 미쳤다고 설명했다. 캐시 토큰에는 새 입력보다 낮은 요금이 적용될 수 있어, 토큰 사용량이 7배였다고 비용도 7배였다고 계산할 수는 없다.
램프의 별도 집계에서는 10월 11일로 끝난 주의 표본 내 토큰 지출이 9월 13일로 끝난 주보다 23.0% 늘었고, 사용량은 52.4% 증가했다. 같은 비교에서 오픈AI(OpenAI)와 앤트로픽(Anthropic)의 토큰당 평균 가격은 25.4% 내렸다. 램프 AI 지수.
이 집계는 램프의 토큰 지출 관리 제품을 이용하는 기업과 해당 기간에 한정된다. 10월 주간 비교 수치와 5월 이후 지출 추정치는 기준 기간과 계산 방식이 다르다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular