AI 요청 9.4배 늘린 우버, 4월 뒤 비용 안정

우버(Uber·$UBER)가 주간 AI 에이전트 요청을 9.4배 늘리고도 4월 이후 전체 AI 지출을 상대적으로 안정시켰다. 기업의 AI 도입 경쟁이 사용량 확대에서 단위 비용 통제로 옮겨가고 있다는 평가가 나온다.

우다이 키란 메디세티(Uday Kiran Medisetty) 우버 디스팅귀시드 엔지니어는 27일(현지시간) 회사 엔지니어링 블로그에서 2026년 2월부터 8월 중순까지 주간 AI 에이전트 요청이 9.4배 늘었다고 밝혔다. 같은 기간 AI 도구 사용자 수는 4배 넘게 늘었고, 전체 AI 지출은 4월 이후 상대적으로 안정됐다고 설명했다.

비용 절감은 단순한 사용 제한보다 작업 배분과 토큰 관리에서 나왔다. 우버는 같은 AI 모델을 기준으로 1000건당 비용이 정점 대비 34% 가까이 낮아졌고, 세션당 비용은 6월 고점 대비 52% 하락했다고 밝혔다.

코드 변경 제출 건의 70% 이상은 로컬 또는 클라우드 에이전트가 맡고 있으며, 우버 엔지니어들은 하루 3만건 넘는 AI 에이전트 작업을 실행하고 있다.

AI 에이전트는 사용자의 지시를 받아 코드 검토, 오류 수정, 작업 실행 등을 자동으로 수행하는 소프트웨어 도구다. 단순 챗봇형 질의응답과 달리 목표를 달성할 때까지 읽기, 쓰기, 실행을 반복하기 때문에 호출 횟수와 토큰 사용량이 빠르게 늘 수 있다.

우버가 내세운 핵심은 '어떤 일에 어떤 모델을 쓰느냐'다. 회사는 작업별 비용, 결과 품질, 모델 신뢰성을 함께 보고 모델을 고른다고 설명했다.

구조는 주 모델이 작업 분해와 평가를 맡고, 좁게 정의된 하위 작업은 상대적으로 비용이 낮은 모델이 처리하는 방식이다. 소규모 작업까지 고성능 모델에 몰아넣는 방식을 줄여 요청당 비용을 낮춘 셈이다.

토큰 관리도 비용 통제의 축으로 제시됐다. 우버는 100만 토큰까지 처리할 수 있는 모델을 쓰는 경우에도 대화형 세션 자동 압축 기준을 40만 토큰으로 둔다.

메디세티 엔지니어는 출력 토큰과 추론 토큰이 주요 모델에서 입력 토큰보다 높은 비용으로 청구될 수 있어 기본 추론 강도를 중간 수준으로 맞췄다고 설명했다. 모델이 더 오래 추론하고 더 길게 답할수록 비용이 커질 수 있다는 점을 운영 기준에 반영한 것이다.

프롬프트 캐시 유지 시간도 바꿨다. 우버는 엔지니어들이 대화형 세션을 켜둔 채 5분 이상 자리를 비우는 일이 잦아 기존 5분 캐시를 1시간으로 늘렸다.

캐시는 같은 문맥을 다시 보내는 비용을 줄이는 장치다. 엔지니어가 터미널에서 세션별 실시간 비용을 볼 수 있게 한 점도 비용 인식 장치로 소개됐다.

악시오스는 우버가 1분기에 2026년 AI 예산을 이미 소진한 뒤 비용 안정화에 나섰다고 전했다. 프라빈 네팔리 나가(Praveen Neppalli Naga) 우버 최고기술책임자는 X에서 오픈 웨이트 모델 실험을 비용 하락 요인 중 하나로 들며 "각 사용 사례에 맞는 모델을 지속적으로 평가하고 배치하고 있다"고 말했다.

오픈 웨이트 모델은 가중치가 공개돼 기업이 자체 환경에 맞춰 운영할 수 있는 모델을 뜻한다. 외부 상용 모델 호출에만 의존하지 않고 내부 인프라나 용도별 모델을 함께 쓰면 비용과 통제 방식을 조정할 여지가 생긴다.

이번 사례는 AI 도입 논의가 모델 성능 경쟁만으로 끝나지 않는다는 점을 보여준다. AI 에이전트형 이용이 늘면서 비용 관리도 플랫폼의 주요 과제로 떠오른 흐름과 맞물려, 기업 내부에서는 사용량 증가보다 단위 비용과 운영 통제가 먼저 검증 대상이 되고 있다.

AI 노동시간 절감 효과를 비용 가치로 환산하는 논의가 확산되는 가운데 우버 사례는 실제 운영 단계의 비용 구조를 보여주는 기업 사례로 읽힌다. AI가 개발 업무에 깊숙이 들어갈수록 기업의 과제는 더 많은 호출을 처리하는 것뿐 아니라, 같은 작업을 얼마의 비용으로 안정적으로 수행하느냐로 좁혀지고 있다.