오픈AI, 장애 대응에 초당 750토큰 처리 기능 활용

오픈AI가 내부 장애 대응에 고속 처리 등급 ‘Ultrafast’를 활용하고 있다. 회사는 표준 처리보다 최대 14배 빠르고 초당 최대 750개의 출력 토큰을 생성한다고 밝혔지만, 장애 조사 전체 소요 시간의 전후 비교 수치는 공개하지 않았다.

오픈AI는 8월 13일 GPT-5.6 Sol의 API 서비스 등급으로 Ultrafast를 일부 고객에게 미리 공개했다. 세레브라스(Cerebras)의 추론 인프라를 통해 제공되는 기능으로, 14배와 초당 750개는 회사가 제시한 최대 성능이다. 개별 장애 조사에 걸리는 시간이나 평균 성능을 뜻하지 않는다.

오픈AI는 내부 엔지니어들이 시스템 경보가 울리면 Ultrafast로 로그와 추적 정보를 읽고 관련 대화를 정리한다고 설명했다. 다음 점검 항목을 찾고 수정안을 준비·검증하는 데도 활용한다. 판단과 실제 배포 책임은 엔지니어가 맡는다.

회사는 신호를 관측한 뒤 가설을 검증하고 다음 조치를 고르는 과정의 지연이 줄었다고 밝혔다. 다만 장애 조사 전체에 걸린 시간의 전후 비교 수치는 공개하지 않았다. 출력 속도의 최대치만으로 사고 조사 시간이 같은 비율로 줄었다고 볼 수는 없다.

티보 임베르(Thibault Imbert) 오픈AI 코어 제품·플랫폼 책임자는 2026년 8월 18일 세레브라스 행사에서 “장애나 보안 사고, 우선순위가 높은 프로젝트에 Ultrafast를 배정한다”고 말했다. 이는 회사가 해당 업무에 처리 용량을 우선 배정한다는 설명이다.

같은 행사에서 신원이 확인되지 않은 발표자는 데이터 수집·정리·정규화와 맥락 추가에 걸리는 시간이 기존 1~2시간에서 10~15분으로 줄기도 한다고 말했다. 발표자의 구체적인 업무와 측정 방법은 확인되지 않았다.

오픈AI는 금융 리서치·보안 분석, 고객 지원, 상거래, 연구·실험도 Ultrafast 활용 사례로 제시했다. 회사가 든 사례이며, 각 분야의 효과를 독립적으로 측정한 수치는 공개되지 않았다.

장애 대응에 AI를 쓰더라도 최종 판단은 사람에게 남긴다는 점은 기업 보안 프로그램에서 AI 에이전트 활용을 제언한 본지 보도와 맞닿아 있다. 이번 발표는 가상자산 인프라에 Ultrafast를 적용했거나 사고 대응 성과를 냈다는 사례를 담지 않았다.

8월 공개 당시 GPT-5.6 Sol의 Ultrafast는 일부 고객 대상 미리보기였다. 현재 오픈AI 개발자 문서는 GPT-6 Astra와 GPT-6.1 Sol에서 모든 API 사용자에게 Ultrafast를 제공한다고 안내한다. 두 모델에서는 표준·Fast 모드와 별도 사용량 한도가 적용된다.

GPT-6.1 Sol에 Ultrafast가 순차 출시된 내용과 요금은 본지가 앞서 보도했다.