194조 토큰 처리한 오픈라우터, 연환산 1경 넘어
최근 9주 처리량은 이전 약 3년 3개월의 누적량을 웃돌았다. 9월 마지막 주 에이전트의 토큰 소비량은 사람과의 상호작용의 약 7배로 집계됐다.
토포AI로 이 기사 더 깊이 읽기
오픈라우터(OpenRouter)는 10월 26일 시작한 한 주 동안 약 194조 토큰을 처리했다. 이 속도를 1년으로 환산한 연간 처리량은 1경 토큰을 넘는다.
블록비츠(BlockBeats)는 최근 9주 처리량이 오픈라우터의 이전 약 3년 3개월 누적량을 웃돌았다고 보도했다. 짧은 기간에 플랫폼 처리량이 크게 늘어난 흐름이다.
3월 주간 처리량은 20조4700억 토큰이었다. 10월 26일 시작한 주의 처리량은 이보다 약 9.5배 많다.
연환산 1경 토큰은 한 주의 처리 속도가 1년 내내 이어진다고 가정해 계산한 값이다. 실제로 1경 토큰을 이미 처리했다는 뜻은 아니다.
토큰은 AI 모델이 문장이나 코드를 입력받고 답변을 만드는 과정에서 처리하는 단위다. 이번 수치는 오픈라우터를 거친 사용량으로, 전체 AI 서비스 이용량이나 매출을 뜻하지 않는다. 오픈라우터가 API 처리량을 기준으로 모델별 순위를 집계한다는 점은 본지의 앞선 보도에서도 다뤘다.
오픈라우터는 공식 사용량 자료에서 올해 2월 6일 에이전트의 토큰 소비량이 사람과의 상호작용을 처음 넘어섰다고 밝혔다. 같은 자료에서 9월 마지막 주 에이전트의 토큰 소비량은 사람과의 상호작용의 약 7배로 집계됐다.
AI 에이전트는 목표를 수행하기 위해 여러 단계의 작업을 진행하고 필요하면 도구를 호출한다. 오픈라우터는 에이전트가 각 단계에서 지시문과 도구 설명, 앞선 작업 기록을 다시 모델에 보낸다고 설명했다. 작업이 길어질수록 반복해 처리하는 문맥도 늘어난다.
따라서 토큰 처리량만으로 사람의 질문 횟수나 실제 지출 규모를 계산할 수는 없다. 이번 집계는 처리한 토큰 수를 보여주는 수치이지, 서비스 매출이나 이용자 비용을 집계한 결과가 아니다.
스트라이프(Stripe)는 8월 19일 오픈라우터 인수에 합의했다고 발표했다.
스트라이프는 인수 발표에서 여러 AI 모델 사이의 요청 경로를 조정하는 기능과 토큰 과금, 비용 최적화를 통합하려는 구상을 배경으로 설명했다.
서지우 기자 




Comment 0
불러오는 중…