토큰 지출 7% 증가, 비200 임대료 첫 하락

AI 모델 호출 수요가 8월에도 늘었지만 토큰 지출 증가율은 사용량 증가율을 크게 밑돌았다. 엔비디아 최신 GPU인 비200(B200) 임대료는 2025년 9월 지수 발표 이후 처음으로 월간 하락했다.

테크플로(TechFlow)는 28일 오전 3시8분 한국시간 JP모건 8월 보고서를 인용해 오픈라우터(OpenRouter) 플랫폼의 토큰 사용량이 전월 대비 47%, 전년 대비 28배 증가했다고 전했다. 같은 기간 토큰 지출은 전월 대비 7%, 전년 대비 12배 늘었다.

사용량이 지출보다 빠르게 늘어난 것은 평균 단가 하락과 맞물린다. JP모건은 사용량 가중 평균 가격이 전월 대비 28% 하락했다고 분석했다. 저가 모델인 GPT-5.6 Luna 등이 증가분의 약 99%를 차지했다는 설명도 붙었다.

토큰은 AI 모델이 문장과 코드를 처리할 때 나누는 기본 단위다. 같은 문장을 처리하더라도 모델 종류와 입력·출력 길이에 따라 필요한 토큰 수와 비용이 달라진다. 호출량 증가가 곧바로 같은 비율의 매출 증가로 이어지지 않는 이유다.

GPU 임대 시장은 세대별로 다른 흐름을 보였다. A100 임대료는 시간당 1.65달러로 보합을 기록했다. H100은 시간당 2.73달러로 전월 대비 1.2% 반등했다.

반면 비200은 시간당 5.63달러로 전월 대비 1.5% 하락했다. JP모건은 비200 가격 하락이 2025년 9월 지수 발표 이후 첫 월간 하락이라고 밝혔다. 최신 GPU 공급 변화가 가격에 반영되기 시작했다는 해석이 가능하다.

비200 가격 하락만으로 AI 연산 수요 둔화를 단정하기는 어렵다. H100 임대료가 반등한 것은 이전 세대 GPU에 대한 수요가 여전히 남아 있음을 보여준다. A100, H100, 비200 가격이 같은 방향으로 움직이지 않았다는 점에서 AI 인프라 비용은 단일 지표로 보기 어렵다.

AI 인프라 시장에서는 모델 비용과 하드웨어 비용이 함께 움직인다. 저가 모델이 호출량을 가져가면 토큰 사용량은 빠르게 늘 수 있지만 평균 지출 단가는 낮아질 수 있다. 반대로 고성능 모델과 고사양 GPU는 제한된 용도에서 더 높은 비용 구조를 유지한다.

메모리 가격은 강세를 이어갔다. DRAM 현물 가격은 5개월 연속 상승했다. DDR5 16Gb 가격은 50.20달러로 전월 대비 6%, 전년 대비 880% 올랐다.

NAND도 4개월 연속 하락을 끝냈다. 1Tb 기준 가격은 30.50달러로 전월 대비 14%, 전년 대비 470% 상승했다. AI 서버 수요가 GPU뿐 아니라 메모리와 저장장치 가격에도 영향을 주는 구조가 이어진 셈이다.

DRAM은 서버가 연산 중 데이터를 빠르게 읽고 쓰는 데 쓰이는 메모리다. NAND는 저장장치의 핵심 부품이다. AI 서버는 대규모 연산을 처리하는 GPU와 함께 고성능 메모리, 저장장치가 필요해 반도체 가격 흐름을 함께 살펴야 한다.

JP모건은 AI 연산 수요가 계속 확대되고 있지만 공급 측 구조 변화가 가격 논리를 바꾸고 있다고 봤다. 폐쇄형 모델과 오픈소스 모델이 함께 성장하는 가운데 저가 모델은 사용량을 가져가고 고가 모델은 주요 매출을 담당하는 구도가 나타났다는 것이다.

본지는 앞서 [AI 인프라 투자와 데이터센터·전력 수요 사이의 연관성을 별도로 확인해야 한다](https://www.tokenpost.kr/news/cryptocurrency/384859)고 전했다. 또 [AI 가속기의 연산 성능이 높아질수록 메모리의 처리 속도와 공급 능력이 중요해진다](https://www.tokenpost.kr/news/cryptocurrency/388115)는 점도 짚은 바 있다.

이번 수치는 AI 인프라 시장의 비용 구조가 GPU 임대료만으로 설명되지 않음을 보여준다. 토큰 사용량, 모델 단가, GPU 임대료, DRAM과 NAND 현물가가 서로 다른 속도로 움직이고 있다. 다음 월간 지표에서는 비200 가격 하락이 공급 확대에 따른 일시적 조정인지, GPU 세대별 가격 재편으로 이어지는지가 확인 대상이다.