테더 AI, 터보퀀트 오픈소스 공개
오데일리에 따르면 테더 AI는 오픈소스 터보퀀트 기술을 공개하고 이를 QVAC SDK 0.12.0 버전에 통합했다.
터보퀀트는 구글 연구소의 메모리 압축 알고리즘을 기반으로 대형언어모델의 KV 캐시를 최대 5배 압축해 기기 메모리 부담을 낮추는 기술이다.
테더는 해당 기술이 노트북, 스마트폰, 소비자용 GPU, 엣지 기기, 탈중앙화 추론 네트워크 등에 적용될 수 있으며 데이터 프라이버시와 처리 효율을 높이는 데 목적이 있다고 밝혔다.
이번 기술은 패브릭을 통해 전 세계 개발자에게 공개됐다. 테더는 중앙화 클라우드 서비스 제약에서 벗어난 로컬·탈중앙화 AI 생태계 구축을 추진하고 있다.
본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사
