연 5만~10만달러, 게리 탄 AI 에이전트 최대 활용 비용 추산

AI 에이전트를 최대 성능으로 운용하면 연 5만~10만달러(약 6665만~1억3330만원)가 들 수 있다는 추산이 나왔다. 많은 토큰과 연산 자원을 투입하는 경우를 가정한 비용이다.

게리 탄(Garry Tan) 와이콤비네이터(Y Combinator) CEO는 안드리센호로위츠(Andreessen Horowitz)가 8월 12일 공개한 팟캐스트에서 “에이전트를 최대 성능으로 사용하는 데 연간 5만~10만달러가 들 수 있다”고 말했다. 이 발언은 실제 지출액 공개가 아니라 최대 성능 운용 비용을 추산한 것이다.

이 발언은 탄 자신의 실제 연간 청구액이나 지출 내역을 공개한 내용이 아니다. 연간 20만달러를 개인적으로 쓴다는 주장도 해당 팟캐스트 원발언에서 확인되지 않았다.

이 문맥에서 토큰은 암호화폐가 아니라 언어모델이 입력과 출력을 처리하는 단위다. 에이전트가 작업을 수행하며 모델을 여러 차례 호출하거나 답변을 다시 생성하면 토큰 사용량이 달라질 수 있다.

따라서 에이전트 비용은 단순히 모델 호출 한 번의 가격만으로 정해지지 않는다. 작업에 필요한 호출 횟수와 재시도 여부에 따라 누적 비용도 달라진다.

tan이 공개한 오픈소스 도구 gstack은 AI 코딩 도구에 기획, 설계 검토, 코드 리뷰, 품질 검사 같은 역할을 부여한다. 공개 저장소에는 개발 과정의 업무를 나눠 처리하는 구성이 소개돼 있다.

다만 저장소의 설명만으로 gstack이 생산성을 얼마나 높이거나 비용을 얼마나 줄이는지 독립적으로 입증되지는 않는다. 도구가 수행하는 역할과 실제 작업 성과는 구분해서 볼 필요가 있다.

3월 30일 레딧(Reddit) r/ClaudeAI의 gstack 관련 게시물과 댓글에는 역할별 지침과 브라우저 기반 테스트가 유용하다는 반응이 있었다. 코드 줄 수만으로 생산성을 평가하기 어렵다는 의견도 나왔다. 이는 개별 이용자의 평가다.

비용을 늘리는 접근에 대한 경계도 제기됐다. 티샤 차울라(Tisha Chawla) 마이크로소프트($MSFT) 엔지니어와 수심 콜(Susheem Koul) 마이크로소프트 엔지니어는 8월 13일 회사 기술 블로그에서 에이전트가 결과를 개선하려 재시도를 반복하면 한 작업의 비용이 그 가치를 넘을 수 있다고 설명했다.

두 사람은 월간 지출 총액뿐 아니라 실행 단위별 비용을 추적하고 제어하는 방안을 제시했다. 작업별 비용을 살펴야 반복 호출로 누적되는 지출을 파악할 수 있다는 취지다.

본지는 앞서 트루포지가 AI 에이전트 실행 비용을 비교한 사례를 다뤘다. 해당 비교는 특정 도구와 시스템 프롬프트, 세션 조건을 둔 결과로, 탄의 연간 비용 추산과는 기준이 다르다.