HPE, AI 코딩 토큰 비용 30~50% 절감 주장

휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise·HPE, $HPE)는 AI 코딩 에이전트의 반복 작업을 사내 프라이빗 클라우드에서 처리해 자체 토큰 비용을 30~50% 낮췄다고 밝혔다.

HPE는 복잡한 계획은 최고 성능 모델에 맡기고, 코드 생성·테스트·수정 같은 반복 작업은 사내에서 운영하는 오픈웨이트 모델로 처리한다고 설명했다. 관련 내용은 HPE 공식 자료에 담겼다.

요청을 배분하는 게이트웨이는 작업 난도와 데이터 민감도, 예산, 응답 지연을 기준으로 모델을 고른다. HPE의 내부 AI 플랫폼은 LiteLLM 게이트웨이와 예산 통제를 적용해 하이브리드 애저(Azure)와 HPE 프라이빗 클라우드 AI(PCAI) 환경에서 150개 넘는 애플리케이션을 지원한다.

토큰은 AI 모델이 입력과 출력을 처리할 때 쓰는 데이터 단위다. 코딩 에이전트는 하나의 과제에서도 계획을 세우고 코드를 만든 뒤 테스트와 수정을 반복해 모델을 여러 차례 호출할 수 있다.

HPE가 공개한 자료에는 30~50% 절감률의 상세 산정 방식이 담기지 않았다. 이 수치는 HPE의 내부 분석 결과로 한정해 읽어야 한다.

◇ 30~50%와 최대 60%는 다른 수치

최대 60%는 별도의 비교 수치다. HPE는 9월 2일 2026 회계연도 3분기 실적 콘퍼런스콜에서 자체 분석을 근거로 PCAI의 토큰 비용이 퍼블릭 클라우드보다 최대 60% 낮을 수 있다고 밝혔다. 실적 콘퍼런스콜 원문에 담긴 전망성 표현이다.

30~50%는 반복 작업을 사내로 보낸 뒤 HPE가 제시한 내부 운용 결과이고, 최대 60%는 PCAI와 퍼블릭 클라우드를 비교한 수치다. 비교 대상과 산정 범위가 달라 두 수치를 직접 대조하기 어렵다.

가트너(Gartner)는 6월 24일 보도자료에서 AI 코딩 비용이 2028년 평균 개발자 급여를 넘어설 것으로 전망했다. 가트너는 단순 작업에는 작은 모델을 쓰고 복잡한 과제에만 고성능 모델을 배정하는 방식과 사용량 통제를 권고했다.

비용을 낮추는 방식은 모델 배분에만 국한되지 않는다. 본지는 앞서 메타(Meta)가 AI 코딩 도구의 토큰 가격을 80% 낮춘 사례를 보도했다. 공급자의 가격 인하와 HPE의 사내 작업 배분은 방식이 달라 절감률을 나란히 비교할 수는 없다.

HPE는 내부 사용량이 일부 사용자에게 집중됐다고도 밝혔다. 같은 라이선스에서 사용량 상위 5%가 소비 대부분을 차지했고, 가장 많이 쓰는 사용자의 소비량은 가장 적게 쓰는 사용자보다 약 450배 많았다는 설명이다. 이용 인원만으로 비용을 예상하기 어렵다는 점을 보여주는 내부 수치다.

HPE는 토큰 지출과 함께 활성 개발자 1인당 비용, 승인된 PR(풀 리퀘스트)당 비용을 측정 지표로 제시했다. 승인된 PR은 코드 검토를 통과해 병합되고 이후에도 사용되는 변경 건을 뜻한다.

◇ 모의 계산과 내부 운용은 구분해야

연구진은 9월 26일 수정한 프리프린트에서 1만석 규모 기업을 모의 계산해 모델 지출을 13~21% 줄일 수 있다고 추정했다. 계산에는 공개 데이터셋의 사용자 행동과 9월 21일 기준 앤스로픽(Anthropic)의 모델 가격표가 사용됐다.

이 결과는 공개 데이터와 가격표를 적용한 모의 계산으로, HPE의 실제 사내 운용을 검증한 자료는 아니다. 모델과 가격, 업무 조건도 HPE의 내부 분석과 달라 절감률을 직접 비교하기 어렵다.

HPE는 30~50% 절감 주장과 함께 활성 개발자당 비용과 승인된 PR당 비용을 보자고 제안했지만, 해당 지표의 실제 측정값은 공개하지 않았다. 따라서 이번 절감률은 개발 성과가 아니라 HPE가 밝힌 자체 토큰 비용 변화로 봐야 한다.