기업들이 AI 지출을 줄이고 비용 효율을 중시하면서 대형 AI 모델 업체들의 성장 전망에 부담이 커지고 있다고 오데일리가 CNBC를 인용해 보도했다.
보도에 따르면 AI 스타트업 린디의 최고경영자는 앤트로픽의 클로드 모델 사용 트래픽을 모두 저비용 모델 딥시크로 전환했으며, 이를 통해 수개월 내 수백만 달러 비용을 절감할 수 있을 것으로 예상했다.
기업들은 과거처럼 모델 자원을 제한 없이 쓰는 방식에서 벗어나 투자수익률과 비용 통제를 중심으로 AI 도구 사용을 조정하고 있다. 우버는 내부 AI 지출에 월간 한도를 설정한 것으로 전해졌다.
업계에서는 단순 작업에는 저비용 모델을 배정하는 모델 라우팅 기술도 확산하고 있다. 마이크로소프트, 아마존, 구글도 저비용 AI 모델과 기업용 도구 출시를 확대하면서 가격 경쟁이 심화되고 있다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사