맨위로 가기
  • 공유 공유
  • 댓글 댓글
  • 추천 추천
  • 스크랩 스크랩
  • 인쇄 인쇄
  • 글자크기 글자크기
링크 복사 완료 링크가 복사되었습니다.

테더, 소비급 기기에서도 10억 매개변수 AI 학습 지원하는 BitNet LoRA 프레임워크 공개

프로필
토큰포스트 속보
댓글 0
좋아요 비화설화 0
 테더, 소비급 기기에서도 10억 매개변수 AI 학습 지원하는 BitNet LoRA 프레임워크 공개

테더(Tether)가 QVAC Fabric 내 교차 플랫폼 BitNet LoRA 미세 조정 프레임워크를 발표했다. 이 프레임워크는 마이크로소프트 BitNet(1-bit LLM)의 학습과 추론을 최적화해, 노트북·소비자용 GPU·스마트폰 등에서도 10억 매개변수급 모델을 학습·미세 조정할 수 있도록 설계됐다.

이번 솔루션은 BitNet 모델의 모바일 GPU(Adreno, Mali, Apple Bionic 등)에서의 미세 조정을 처음으로 구현했다. 테스트 결과, 1.25억(125M) 매개변수 모델은 약 10분 안에, 10억(1B) 매개변수 모델은 약 1시간 안에 미세 조정이 가능하며, 스마트폰 환경에서도 최대 130억(13B) 매개변수 모델까지 확장이 가능한 것으로 나타났다.

프레임워크는 Intel, AMD, Apple Silicon 등 이기종 하드웨어를 지원하며, 엔비디아(NVIDIA)가 아닌 장치에서 1-bit LLM LoRA 미세 조정을 구현한 첫 사례로 소개됐다. 모바일 GPU에서 BitNet 모델 추론 속도는 CPU 대비 2~11배 향상되었고, 메모리 사용량은 기존 16-bit 모델 대비 최대 약 77.8% 감소했다.

테더는 이번 기술이 고급 연산 자원과 클라우드 인프라 의존도를 낮추고, AI 학습의 분산화·로컬화를 촉진해 연합학습 등 새로운 활용 사례의 기반을 마련할 수 있을 것으로 전망했다.

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>

많이 본 기사

미션

매일 미션을 완료하고 보상을 획득!

미션 말풍선 닫기
말풍선 꼬리
출석 체크

출석 체크

0 / 0

기사 스탬프

기사 스탬프

0 / 0

댓글

댓글

0

추천

0

스크랩

스크랩

데일리 스탬프

0

말풍선 꼬리

매일 스탬프를 찍을 수 있어요!

데일리 스탬프를 찍은 회원이 없습니다.
첫 스탬프를 찍어 보세요!

댓글 0

댓글 문구 추천

좋은기사 감사해요 후속기사 원해요 탁월한 분석이에요

0/1000

댓글 문구 추천

좋은기사 감사해요 후속기사 원해요 탁월한 분석이에요
1
오늘 하루 열지 않음[닫기] Close

토큰포스트 프리미엄 멤버십, 이 모든 혜택을 무료로 시작하세요

AI신호 + 60강좌 + BBR매거진 + 에어드랍 WL 기회까지!