코인베이스가 AI 인프라 최적화를 통해 관련 지출을 거의 절반으로 줄였다고 밝혔다.
오데일리에 따르면 브라이언 암스트롱 코인베이스 CEO는 X에서 기본 모델 설정, 작업별 스마트 라우팅, 캐싱 효율 개선 등을 통해 토큰 사용량이 빠르게 늘어나는 상황에서도 AI 비용을 크게 낮췄다고 말했다.
암스트롱 CEO는 오픈소스·고효율 모델을 기본 적용하고, 작업 성격에 따라 적합한 모델로 자동 배분하며, 캐시 적중률을 높이는 방식이 비용 절감에 기여했다고 설명했다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사