코인베이스 CEO “AI 비용, 모델·라우팅 최적화로 절감”
오데일리에 따르면 브라이언 암스트롱 코인베이스 최고경영자(CEO)는 X를 통해 사내 AI 사용량이 빠르게 늘고 있지만, 시스템 설계 개선으로 비용을 안정적으로 관리하고 있다고 밝혔다.
암스트롱 CEO는 비용 절감 방식으로 저비용 오픈소스 기반 기본 모델 적용, 작업 유형과 캐시 적중률 등을 고려한 자동 라우팅, 캐시 최적화, 불필요한 토큰 사용을 줄이는 컨텍스트 정리, 사용량 시각화 등을 제시했다.
그는 “목표는 AI 사용을 억제하는 것이 아니라 지수적 성장을 감당할 수 있는 인프라를 구축하는 것”이라며 토큰 사용량이 계속 늘어나는 가운데 전체 AI 지출은 거의 절반 수준으로 줄었다고 설명했다.
본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사
