구글에서 선호하는 출처로 추가

AI 에이전트 예산 80% 경고…한도 도달 땐 다음 호출 차단

Nasiko가 AI 에이전트 운영 플랫폼 OpenRuntime과 비용 관리 기능 TokenOps를 소개했다. 예산을 80% 사용하면 경고를 보내고, 한도에 도달하면 게이트웨이가 다음 모델 호출을 거부한다.

토포AI로 이 기사 더 깊이 읽기

예산 막대가 한도에 가까워진 비용 관리 대시보드 화면 / TokenPost.ai (macro)

AI 에이전트의 모델 비용을 팀과 에이전트별로 추적하고, 예산 한도에 도달하면 게이트웨이가 다음 모델 호출을 거부하는 운영 플랫폼이 공개됐다.

Nasiko는 16일 공식 블로그에서 OpenRuntime을 소개하고 비용 관리 기능 TokenOps의 작동 방식을 설명했다. 팀이나 개별 에이전트에 예산 상한을 설정하면 사용액이 80%에 이르렀을 때 경고가 발생한다. Nasiko는 한도에 도달한 뒤 Agent Gateway가 다음 모델 호출을 거부한다고 밝혔다.

차단 대상은 다음 모델 호출이다. 공식 설명만으로 에이전트의 모든 작업이 자동으로 중단된다고 볼 수는 없다.

TokenOps는 비용을 팀·모델·에이전트·하네스별로 나눠 보여준다. 하네스는 에이전트를 실행하고 도구와 모델을 연결하는 환경을 뜻한다.

이용자는 개별 실행 기록에서 모델 호출과 도구 사용 경로를 살펴볼 수 있다. 여러 모델 제공업체를 쓰는 조직은 어느 팀이나 작업에서 지출이 발생했는지 구분하는 데 이 기능을 활용할 수 있다.

비용을 기록하는 기능과 실행 중 한도를 집행하는 기능은 작동 조건이 다르다. Nasiko의 공개 저장소는 세션 사용량 보고와 모델 라우팅을 별도로 켤 수 있다고 안내한다.

예산 제한은 모델 호출이 Nasiko 게이트웨이를 통과할 때 적용된다. 게이트웨이 밖에서 이뤄지는 호출까지 같은 제한을 받는다고 설명하지는 않았다.

Nasiko는 기존 에이전트 코드나 SDK를 바꾸지 않고 플랫폼을 연결할 수 있다고 밝혔다. 다만 실제 예산 집행 범위는 모델 요청이 게이트웨이를 거치도록 설정했는지에 따라 달라진다.

OpenRuntime은 비용 관리 외에 도구 사용 권한도 다룬다. Nasiko는 도구별 사용을 허용하거나 차단하고, 사람이 승인한 뒤 사용하도록 설정할 수 있다고 설명했다.

Nasiko는 5월 에이전트 등록·라우팅·보안·배포·관측 기능을 포함한 제어 계층을 소개했다. 당시 발표는 OpenRuntime의 여러 운영 기능을 설명했다.

9월에는 디지털오션(DigitalOcean) 마켓플레이스에서 관리형 런타임을 제공한다고 발표하며 TokenOps를 지출 추적·통제 기능으로 소개했다. 따라서 16일 발표는 TokenOps의 첫 공개라기보다 해당 기능을 포함한 OpenRuntime 전반을 다룬 것으로 볼 수 있다.

공개 저장소에는 비용 계측과 관련한 사용자 보고도 있다. 한 기여자는 Codex의 캐시 입력 토큰이 중복 집계돼 자신의 사례에서 비용이 약 6.9배로 기록됐다고 주장했다. 다른 사용자는 새 Codex 세션의 첫 사용량이 0으로 기록됐다고 보고했다.

별도 이슈에서는 Claude Code의 도구 호출이 중단될 때 이미 과금된 사용량이 기록에서 빠질 수 있다는 보고가 올라왔다. 작성자는 자신이 확인한 전사 기록 15개에서 사례를 집계했다. 이는 개별 사용자의 보고로, 제품 전반의 오류율을 나타내지는 않는다.

Nasiko는 16일 발표에서 공개 저장소의 별이 1만1900개라고 밝혔다. 이는 프로젝트 전체의 누적 수치로, 이번 발표만의 반응을 뜻하지 않는다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기