AI 지출 99.5%, 상위 10% 고객에 집중됐다

AI 인프라 지출의 대부분이 소수 고객에게 집중된 것으로 나타났다. 모델 서빙 지출의 99.5%, 네오클라우드 지출의 99%를 상위 10% 고객이 차지했다.

토르스텐 슬록(Torsten Slok) 아폴로(Apollo) 파트너·수석 이코노미스트는 24일 아폴로 분석에서 램프(Ramp) 데이터를 바탕으로 이같이 밝혔다. AI를 사용하는 기업은 늘었지만, 대규모 인프라 지출이 같은 폭으로 확산된 것은 아니라는 내용이다.

램프에서 소프트웨어 비용을 지출하는 기업 가운데 GPU 공급업체를 이용한 비중은 약 10%로 집계됐다. 2년 전에는 4% 미만이었다.

모델 서빙·추론 서비스를 이용한 기업 비중은 같은 기간 2.4%에서 8.7%로 상승했다. 네오클라우드 이용 비중도 2.0%에서 3.3%로 높아졌다. 도매 GPU 용량을 이용한 기업 비중은 0.1%에 머물렀다.

◇ 지출은 소수 고객에 더 집중

이용 기업 수와 지출 규모 사이에는 큰 차이가 있었다. 모델 서빙 지출에서 상위 10% 고객의 비중은 99.5%였고, 나머지 90% 고객은 0.5%에 그쳤다. 네오클라우드 지출에서도 상위 10% 고객 비중이 99%, 하위 90% 고객 비중이 1%였다.

비교 대상인 비AI SaaS의 상위 10% 고객 지출 비중은 91.8%, CRM은 84.2%였다. 아폴로는 AI 인프라 지출이 일반 기업용 소프트웨어보다 더 집중된 구조라고 평가했다.

AI 인프라 지출은 기업의 인원보다 실제 모델 실행량에 더 크게 좌우될 수 있다. 기업 수가 늘어도 대규모 추론 작업을 수행하는 고객이 제한적이면 전체 지출은 소수 기업에 머물 수 있다는 의미다.

램프 AI 인덱스는 램프의 법인카드와 인보이스·ACH 결제 데이터를 활용해 미국 기업의 AI 관련 지출을 집계한다. 표본에는 7만 곳이 넘는 미국 기업이 포함된다.

다만 무료 도구나 직원 개인 계정을 통한 사용은 집계되지 않을 수 있다. 따라서 99.5%와 99%는 전체 AI 산업 매출이 아니라 램프 표본에서 관찰된 관련 지출의 집중도를 나타낸다.

램프는 6월 기준 모델 서빙 플랫폼을 이용한 기업이 AI 지출 기업의 5.8%였다고 밝혔다. 해당 기업의 직원 1인당 월간 AI 지출 중앙값은 248달러(약 34만원)로, 전체 AI 지출 기업의 중앙값 10.59달러(약 1만4000원)보다 약 23배 높았다.

이 수치는 앞서 제시된 모델 서빙 이용 기업 비중 8.7%와 집계 기준이 다를 수 있다. 두 수치를 같은 모집단의 변화로 단순 비교하기보다는, 램프가 각 분석에서 설정한 표본과 기준을 구분해 볼 필요가 있다.

◇ 인프라 시장의 고객 집중도

기업들은 자체 GPU를 보유하거나 장기간 용량을 예약하기보다 모델 호출과 구독형 서비스를 이용할 수 있다. 이 방식은 초기 설비투자 부담을 줄이는 대신 고객이 필요에 따라 지출을 빠르게 늘리거나 줄일 수 있는 구조다.

이에 따라 AI 인프라 기업의 지출 증가가 고객 기반 확대를 뜻하는지는 별도로 확인해야 한다. 소수 대형 고객의 사용량이 줄거나 계약이 취소되면 전체 지출과 인프라 수요가 함께 변할 수 있기 때문이다.

앤트로픽의 상위 1% 고객 매출이 전체의 46%를 차지했다는 분석도 AI 기업의 고객 집중도를 보여주는 사례로 앞서 소개됐다. 다만 해당 수치는 전체 매출 기준의 분석으로, 이번 램프 자료의 인프라 지출 집중도와 직접 비교할 수는 없다.

SNS에서는 기업이 기존 제품에 AI 기능을 추가하는 것과 대규모 추론 인프라를 직접 운영하는 것은 다르다는 의견이 나왔다. 다만 이 반응은 개인 이용자의 의견으로, 시장 전체의 대표적인 판단으로 보기는 어렵다.

아폴로는 24일 공개한 분석에서 AI 인프라가 지출 규모가 큰 소수 고객에 계속 의존할 가능성이 있다고 전망했다. 아폴로는 이 판단이 분석 시점의 의견이며 향후 추세가 이어진다는 보장은 없다고 덧붙였다.