구글에서 선호하는 출처로 추가
딥시크, 추론 프레임워크 전면 오픈소스화…엔비디아·화웨이 칩 모두 지원
토큰포스트 속보
체인캐처는 딥시크가 내부 추론 프레임워크 딥인퍼와 토큰 인코딩·디코딩 컴포넌트를 오픈소스로 공개했다고 보도했다. 엔비디아와 화웨이 어센드 플랫폼을 함께 지원한다.
토포AI로 이 기사 더 깊이 읽기
체인캐처(ChainCatcher)는 딥시크(DeepSeek)가 내부 추론 프레임워크 딥인퍼(DeepInfer)를 전면 오픈소스로 공개했다고 보도했다. 실서비스용 토큰 인코딩·디코딩 컴포넌트 'deepseek-recipe'도 함께 공개됐다.
체인캐처는 딥인퍼가 고성능 연산자와 최적화된 추론 엔진을 통합한 프레임워크라고 보도했다. 분산 추론, 추측 디코딩(speculative decoding), SWA Bounded Replay, 구조화 출력을 지원하며 엔비디아와 화웨이 어센드(昇腾, Ascend) 플랫폼에서 모두 쓸 수 있다는 내용이다.
딥시크는 딥인퍼를 기반으로 DeepSeek V4.1 Flash의 고처리량·저지연 대규모 추론 서비스를 구현했다고 밝혔다. 신규 모델의 추론 코드와 최적화 내용도 앞으로 이곳에서 계속 업데이트할 예정이다. deepseek-recipe는 딥시크 공식 API의 처리 로직과 완전히 일치하도록 만들어졌다고 체인캐처는 덧붙였다.
댓글 0
불러오는 중…