맨위로 가기
  • 공유 공유
  • 댓글 댓글
  • 추천 추천
  • 스크랩 스크랩
  • 인쇄 인쇄
  • 글자크기 글자크기
링크 복사 완료 링크가 복사되었습니다.

Gradient, Echo-2 분산 RL 프레임워크 공개…AI 연구 비용 10분의 1로 절감

프로필
토큰포스트 속보
댓글 0
좋아요 비화설화 0
 Gradient, Echo-2 분산 RL 프레임워크 공개…AI 연구 비용 10분의 1로 절감

분산형 AI 연구소 Gradient가 Echo-2 분산 강화학습(RL) 프레임워크를 공개했다. 이 프레임워크는 Learner와 Actor를 아키텍처 단계에서 완전히 분리해 300억(30B) 파라미터급 모델의 후훈련 비용을 4,500달러에서 425달러 수준으로 낮추고, 동일 예산에서 10배 이상 연구 처리량을 제공하는 것이 특징이다.

Echo-2는 저장과 연산을 분리한 구조를 바탕으로 비동기 강화학습(Async RL)을 구현해, 대량의 샘플링 연산을 불안정한 GPU 인스턴스와 Parallax 기반의 이기종 GPU로 분산 처리한다. 여기에 유한 지연(유한한 범위 내의 데이터 신선도 관리), 인스턴스 장애 허용 스케줄링, 자체 개발한 Lattica 통신 프로토콜 등을 적용해 모델 정확도를 유지하면서도 훈련 효율을 크게 끌어올렸다.

Gradient는 Echo-2 공개와 함께 RLaaS(강화학습 서비스형 플랫폼) ‘Logits’를 곧 선보일 예정이다. 이 플랫폼을 통해 AI 연구를 자본 집약적 구조에서 효율 중심 구조로 전환한다는 목표다. Logits는 현재 전 세계 학생과 연구자를 대상으로 사전 예약을 받고 있으며, Gradient는 대규모 모델의 분산 훈련·서비스·배포 인프라 구축에 특화된 AI 연구소로 알려져 있다.

기사점수: 1

발행: 1

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>

많이 본 기사

미션

매일 미션을 완료하고 보상을 획득!

미션 말풍선 닫기
말풍선 꼬리
출석 체크

출석 체크

0 / 0

기사 스탬프

기사 스탬프

0 / 0

댓글

댓글

0

추천

0

스크랩

스크랩

데일리 스탬프

0

말풍선 꼬리

매일 스탬프를 찍을 수 있어요!

데일리 스탬프를 찍은 회원이 없습니다.
첫 스탬프를 찍어 보세요!

댓글 0

댓글 문구 추천

좋은기사 감사해요 후속기사 원해요 탁월한 분석이에요

0/1000

댓글 문구 추천

좋은기사 감사해요 후속기사 원해요 탁월한 분석이에요
1
오늘 하루 열지 않음[닫기] Close

토큰포스트 프리미엄 멤버십, 이 모든 혜택을 무료로 시작하세요

AI신호 + 60강좌 + BBR매거진 + 에어드랍 WL 기회까지!