구글과 아마존이 PyTorch 기반 AI 앱을 각사의 자체 칩에서 실행하도록 돕는 도구를 잇달아 공개했다. 기존 앱을 다시 작성하지 않고 구글 TPU나 아마존 트레이니움으로 옮길 수 있다.
구글은 20일 TorchTPU를 공개했다. 테크크런치는 개발자가 간단한 설정 변경만으로 기존 PyTorch 앱을 TPU로 옮길 수 있고, 앱을 다시 작성할 필요가 없다고 전했다. 구글은 메타, 허깅페이스, vLLM 개발사 인퍼랙트, SGLang 개발사 래딕스아크 등과 협력해 TorchTPU가 이들 도구와 잘 작동하도록 했다고 밝혔다.
TorchTPU는 vLLM, SGLang, 허깅페이스 등과 함께 쓸 수 있다. 구글은 앱을 TPU와 클라우드로 옮기고 오류를 해결하도록 돕는 TPU 에이전트 도구 모음도 선보였다.
아마존은 19일 트레이니움 칩과 AWS로 AI 앱을 다시 작성하지 않고 옮길 수 있는 TorchNeuron을 공개했다. 아마존은 엔비디아 칩에 묶인 기능을 분리하는 코드를 PyTorch 본 프로젝트에 제출하고 있다고 밝혔다.
PyTorch는 AI 모델을 만들고 학습·실행하는 데 쓰이는 오픈소스 도구다. 기존 PyTorch 앱을 TPU나 트레이니움으로 옮길 때 앱을 다시 작성할 필요가 없다고 테크크런치는 전했다. 다만 이번 공개만으로 개발자들이 엔비디아 GPU에서 대거 이탈한다고 단정할 수는 없다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사