오픈AI 칩 효율 1.9배, 삼성 HBM4 공급론

오픈AI(OpenAI)의 자체 AI 추론 칩 할라페뇨(Jalapeño)가 공개 성능 시험에서 비교 시스템보다 높은 전력 효율과 낮은 지연시간을 제시했다. 다만 대규모 배치 단계에서는 삼성전자 HBM4 공급 구조가 확산 속도를 좌우할 수 있다는 분석이 나왔다.

오픈AI는 25일 기술 보고서에서 할라페뇨가 InferenceX 공개 벤치마크에서 GPT-OSS 120B, 딥시크(DeepSeek) R1, 키미(Kimi) K2.5 1T 모델을 대상으로 비교 시스템보다 와트당 AI 작업량을 1.5~1.9배 더 처리했다고 밝혔다. 종단 간 지연시간은 1.7~3.6배 낮췄고, 정격 전력은 700와트, 시험 중 지속 전력은 550와트 이하였다고 설명했다.

할라페뇨는 오픈AI가 브로드컴(Broadcom)과 함께 개발한 추론 전용 칩이다. 새 모델을 학습시키는 용도보다 이미 훈련된 대형언어모델을 실제 서비스에 투입할 때 필요한 연산을 처리하는 데 초점을 맞춘 제품이다.

이번 시험 결과는 AI 반도체 경쟁의 무게가 학습 칩에서 추론 칩으로 넓어지고 있음을 보여준다. 생성형 AI 서비스가 실제 이용자 요청을 처리하는 단계에서는 응답 속도와 전력 효율이 비용 구조에 직접 영향을 준다.

쟁점은 메모리다. 블록비츠(BlockBeats)는 주칸(Jukan) 시트리니(Citrini) 애널리스트가 할라페뇨의 확장 가능성을 삼성전자 HBM4 공급 구조와 연결해 분석했다고 전했다.

주칸 애널리스트는 할라페뇨가 삼성전자 HBM4에 거의 전적으로 의존하는 구조라면 생산 확대가 일정한 상한에 부딪힐 수 있다고 봤다. 그는 오픈AI가 배치 규모를 더 키우려면 HBM4 전송 속도 등 일부 사양 요구를 낮춰 다른 공급사의 HBM4 제품도 함께 쓰는 방안을 검토할 수 있다고 분석했다.

HBM은 AI 연산 칩 옆에 배치돼 대량의 데이터를 빠르게 주고받는 고대역폭 메모리다. 연산 칩 성능이 높아져도 메모리 공급량과 사양이 맞지 않으면 실제 데이터센터 투입 속도는 늦어질 수 있다.

오픈AI가 공개한 성능 수치는 칩 자체의 효율을 보여준다. 그러나 데이터센터 배치는 칩 설계뿐 아니라 메모리, 패키징, 서버 구성, 전력 인프라가 함께 맞물려야 가능한 과정이다.

국내 독자에게 이 사안은 오픈AI와 엔비디아($NVDA)의 성능 경쟁만으로 읽히지 않는다. 삼성전자 HBM4가 할라페뇨 확산의 핵심 부품으로 거론되면서 한국 메모리 공급망이 AI 인프라 경쟁의 한복판에 놓이게 됐다.

본지는 앞서 AI 데이터센터 투자가 반도체와 전력, 금융을 함께 묶는 구조를 보도했다. 이번 할라페뇨 논쟁도 같은 흐름 위에서 성능 발표 이후 실제 배치 능력을 따지는 단계로 넘어간 사례다.

다만 공개 벤치마크 결과가 곧바로 상용 배치 규모를 뜻하지는 않는다. 비교 조건과 실제 데이터센터 운영 환경이 다를 수 있고, 특정 공급사 의존도 역시 향후 조달 전략에 따라 달라질 수 있다.

향후 확대 과정에서는 공개 성능 수치와 함께 HBM4 조달, 사양 조정, 다중 공급사 채택 여부가 확인 지표가 된다.