오픈AI 할라페뇨 공개, 엔비디아 병행 쓴다

오픈AI(OpenAI)가 브로드컴(Broadcom·$AVGO)과 개발한 자체 AI 추론 칩 할라페뇨(Jalapeño)의 성능 시험 결과를 공개했다. 전력 효율과 응답 속도 개선을 내세웠지만, 엔비디아($NVDA) 가속기도 학습과 추론에 계속 쓰겠다는 입장도 함께 밝혔다.

오픈AI는 25일 기술 보고서에서 할라페뇨가 전력 1단위당 더 많은 AI 작업을 처리하면서 응답 속도도 높였다고 밝혔다. 시험은 세미애널리시스(SemiAnalysis)의 공개 벤치마크 인퍼런스엑스(InferenceX)에서 진행됐다.

시험 대상 모델은 GPT-OSS 120B, 딥시크(DeepSeek) R1 670B, 키미(Kimi) K2.5 1T였다. 오픈AI는 할라페뇨의 정격 전력이 700와트이며 시험 중 지속 전력은 550와트 이하였다고 설명했다.

키미 시험에서는 비교 시스템보다 피크 전력 효율이 약 1.5배 높고 종단 간 지연시간은 3.4배 낮았다고 밝혔다. 오픈AI 자체 추론칩 성능과 HBM 공급 변수가 함께 거론된 바 있다.

할라페뇨는 학습용이 아니라 추론용 칩이다. 추론은 이미 학습된 AI 모델이 이용자 요청에 답을 내는 과정이다. 챗GPT 같은 서비스에서는 응답 지연과 전력 소모를 줄이는 문제가 곧 운영 비용과 서비스 품질로 이어진다.

오픈AI는 칩, 메모리, 네트워크, 소프트웨어, 랙 단위 시스템을 함께 설계했다고 밝혔다. 대형 AI 기업이 모델뿐 아니라 하드웨어와 데이터센터 운영까지 묶어 최적화하려는 흐름이 반영된 것으로 풀이된다.

브로드컴은 지난 6월 오픈AI와 할라페뇨를 공개하며 이 칩이 오픈AI의 첫 맞춤형 추론 가속기라고 밝혔다. 당시 양사는 할라페뇨가 오픈AI 모델과 제품 뒤의 풀스택 전략에서 중요한 단계라고 설명했다.

CNBC는 이번 발표가 브로드컴의 2027회계연도 AI 매출 1000억 달러(약 138조원) 이상 전망에 신뢰를 보탤 수 있다고 전했다. 다만 데이터센터 건설을 둘러싼 정치적 압박과 브로드컴 매출 확대 속도는 별도 변수로 남는다는 평가도 함께 제시했다.

엔비디아에는 다른 의미가 있다. 맞춤형 칩이 대형 AI 기업의 선택지로 올라왔다는 점은 GPU 중심 AI 인프라 구조에 대한 질문을 키운다. 그러나 오픈AI는 같은 보고서에서 "엔비디아와 다른 파트너의 가속기를 학습과 추론 작업에 계속 폭넓게 배치할 것"이라고 밝혔다.

따라서 할라페뇨는 엔비디아 대체라기보다 추가 조달 축에 가깝다. AI 기업 입장에서는 범용 GPU, 맞춤형 ASIC, 데이터센터 장기 계약을 함께 가져가며 비용과 성능을 조정하는 구조가 더 현실적인 선택지로 떠오르고 있다.

엔비디아와 오픈AI의 인프라 협력도 이어지고 있다. 엔비디아는 오픈AI의 미국 오하이오 대형 데이터센터 프로젝트에 최대 1050억 달러(약 145조원)의 신용 지원을 제공하며, 해당 프로젝트에는 엔비디아 컴퓨팅이 독점 사용될 예정이라고 밝혔다.

이 프로젝트는 SB에너지(SB Energy)의 미국 오하이오 PORTS-Pike 기술 캠퍼스와 연결돼 있다. 오픈AI는 이 프로젝트의 8 IT-GW 고객이며, SB에너지는 20년 임대 구조로 데이터센터를 짓고 운영한다.

오픈AI는 할라페뇨를 연말까지 자사 컴퓨팅 인프라에 배치하기 시작할 계획이라고 밝혔다. 회사는 생산 검증, 소프트웨어 성숙도, 대규모 운영 준비, 더 많은 모델 검증을 계속하고 있다고 설명했다.

엔비디아에 미칠 영향은 할라페뇨의 실제 배치 규모와 차세대 칩 개발 속도가 확인된 뒤 평가할 수 있다. 엔비디아 최고경영자는 26일 미국 장 마감 후 실적 발표에서 맞춤형 칩 경쟁에 대한 질문을 받을 것으로 보인다.