에이전트형 AI 토큰 7.3조개, 6개월 새 14배로

오픈라우터(OpenRouter)의 에이전트형 AI 토큰 사용량이 8월 10일 기준 7일 이동평균 7조3000억개로 늘어난 것으로 전해졌다. 2월 6일 약 5000억개와 비교하면 14배로 증가한 규모다.

크립토브리핑(CryptoBriefing)은 같은 기간 일반 이용자의 토큰 사용량이 1조4000억개로 2.8배 늘었다고 보도했다. 7조3000억개는 크립토브리핑이 전한 수치로, 오픈라우터의 공개 블로그와 데이터 페이지에는 같은 시점의 절대값이 제시되지 않았다.

에이전트형 작업은 AI가 한 차례 답변하는 데 그치지 않고 목표를 달성하기 위해 검색과 코딩, 디버깅, 외부 도구 호출 등을 여러 단계로 수행하는 방식이다. 작업 과정이 길고 모델 호출이 반복되는 만큼 대화형 이용보다 토큰 소모가 빠르게 늘어날 수 있다.

오픈라우터는 6월 30일 블로그에서 에이전트형 작업이 2026년 초부터 본격화해 2월 1일 무렵 일반 이용자의 토큰 사용량을 넘어섰다고 밝혔다. 에이전트형 작업은 일반 이용자의 작업보다 요청당 약 15배 많은 토큰을 사용하는 것으로 분석됐다.

에이전트형과 일반 이용자 트래픽은 오픈라우터가 API 키별 7개 신호를 가중 합산한 내부 분류 체계로 구분한다. 분류 기준이 달라지면 집계 결과도 바뀔 수 있어 이번 수치는 오픈라우터의 분류 체계를 기준으로 해석해야 한다.

오픈라우터는 여러 AI 모델을 하나의 응용프로그램 인터페이스(API)에서 연결하고 요청을 적절한 모델로 보내는 추론 플랫폼이다. 학습을 마친 AI 모델이 이용자의 요청을 처리하고 답을 생성하는 과정에서 발생한 사용량과 비용을 집계한다.

플랫폼 전체 규모도 빠르게 커졌다. 오픈라우터는 6월 1일 월간 100조개 토큰을 라우팅하고 있다고 공개했다. 이용자가 여러 모델을 한곳에서 호출할 수 있어 오픈라우터의 집계는 실제 AI 작업과 모델 선택의 변화를 살피는 자료로 활용된다.

본지는 앞서 오픈라우터의 실제 사용량을 활용해 미국 기업군의 주식 수익률 차이를 분석한 연구를 보도했다. 다만 토큰 사용량은 AI 활용 정도를 보여주는 지표일 뿐 기업 매출이나 주가 흐름을 그대로 나타내지는 않는다.

에이전트형 수요 확대에는 저렴한 개방형 가중치 모델의 확산도 영향을 미친 것으로 분석된다. 오픈라우터의 2025년 사용량 분석에서는 개방형 가중치 모델이 전체 토큰의 약 3분의 1을 차지했다.

개방형 가중치 모델은 학습된 매개변수를 공개해 이용자가 직접 배포하거나 목적에 맞게 조정할 수 있는 모델을 뜻한다. 통상 폐쇄형 고급 모델보다 낮은 비용으로 대량 호출하기 쉬워 반복 작업이 많은 에이전트형 서비스에 활용될 여지가 크다.

오픈라우터 자료에서는 중국계 오픈소스 모델의 주간 점유율이 2024년 말 1.2%에서 2025년 일부 주간 30%에 가까운 수준으로 상승했다. 본지는 앞서 개방형 가중치 모델이 전체 토큰 사용량의 약 3분의 1에 도달한 흐름을 전했다.

토큰 비중과 실제 지출 비중은 구분할 필요가 있다. 저가 모델은 많은 토큰을 처리하더라도 단가가 낮아 지출에서 차지하는 비중은 상대적으로 작을 수 있다. 토큰 사용량 증가를 매출이나 시장 지배력 확대와 같은 의미로 해석하기 어려운 이유다.

에이전트형 이용이 늘면서 비용 관리도 플랫폼의 주요 과제로 떠올랐다. 오픈라우터는 7월 24일 요청을 부서와 작업 유형, 에이전트 복잡도, 비용 센터 등으로 자동 분류하는 ‘클래시파이어(Classifiers)’ 기능을 출시했다.

오픈라우터는 이 기능을 통해 에이전트의 작업 내용과 모델 선택, 비용 흐름을 추적할 수 있다고 설명했다. 에이전트가 여러 모델과 도구를 연속 호출할 때 어느 단계에서 비용이 발생했는지 구분하려는 조치다.

개발자 커뮤니티에서는 비용과 캐싱을 둘러싼 문제도 제기됐다. 마이크로소프트($MSFT) 비주얼 스튜디오 코드(VS Code) 깃허브 이슈에는 오픈라우터의 자체 API 키 연결 방식으로 클로드 모델을 사용할 때 프롬프트 캐싱이 작동하지 않아 에이전트 모드 비용이 커진다는 지적이 올라왔다. 에이전트형 AI의 확산이 토큰 사용량 증가를 넘어 라우팅과 캐싱, 과금 구조의 개선 요구로 이어지고 있다.