오픈AI(OpenAI)가 자체 추론 칩 할라페뇨(Jalapeño)의 첫 실측 성능 결과에서 엔비디아(Nvidia) GB200·GB300 비교 시스템보다 전력당 AI 처리량과 지연 시간에서 앞섰다고 주장했다.
오픈AI는 25일(현지시간) 자사 게시글에서 할라페뇨가 GPT-OSS 120B, 딥시크 R1 670B, 키미 K2.5 1T 모델을 대상으로 한 테스트에서 최고 처리량 기준 전력당 AI 작업량이 비교 시스템보다 1.5~1.9배 높았다고 밝혔다. 엔드투엔드 지연 시간은 1.7~3.6배 낮았다고 설명했다.
오픈AI는 할라페뇨가 첫 자체 추론 칩이며, 언어모델 추론 작업에 맞춰 칩·메모리·네트워크·소프트웨어를 함께 설계했다고 밝혔다. 회사는 할라페뇨 정격 전력이 700와트이며 테스트한 작업에서는 지속 전력이 550와트 이하였다고 덧붙였다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사