오픈AI가 Responses API 백그라운드 모드에 2시간과 8시간 완료 창을 추가했다. 8시간 창을 선택하면 Standard 처리보다 모델 토큰 요금이 40% 낮아진다.
오픈AI(OpenAI)는 17일 개발자 변경 기록에서 이 기능을 공개 베타로 추가했다고 밝혔다. 세부 조건은 백그라운드 모드 문서에 제시됐다.
완료 창은 API가 요청을 받은 뒤 첫 응답을 처리하는 목표 시간을 뜻한다. 선택한 시간이 서비스 수준을 보장하는 마감 시각이라는 의미는 아니며, 초기 응답을 언제까지 처리할지 정하는 기준이다.
기본값인 soonest는 할인 없이 가장 빠른 처리를 목표로 한다. 2h 창은 Standard보다 모델 토큰 요금이 30%, 8h 창은 40% 낮다.
할인 창은 GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra, GPT-6 Luna에서 제공된다. 네 모델 모두 이번 공개 베타 대상이다.
기능은 문서 검토나 야간 분석처럼 결과를 즉시 받지 않아도 되는 작업을 겨냥한다. 여러 단계로 이어지는 에이전트 실행에서도 처리 시간을 늘리는 대신 토큰 비용을 낮추는 선택지가 생긴다.
2시간과 8시간 창을 사용하려면 백그라운드 처리를 켜고 Standard 처리를 선택해야 한다. 할인 창에서는 스트리밍 출력이 지원되지 않아 웹훅이나 응답 ID 조회로 처리 상태를 확인해야 한다.
후속 요청에는 같은 continuation_id를 재사용할 수 있다. 오픈AI는 같은 완료 창·continuation_id·모델·프로젝트를 이어 쓰면 관련 요청이 더 높은 대기열 우선순위를 받을 수 있다고 안내했으며, 할인은 적격 후속 요청에도 적용된다고 밝혔다.
GPT-6.2 Astra와 GPT-6.2 Sol부터는 Flex 처리 방식이 제공되지 않는다. 장시간 작업에서 비용을 낮추려면 기존 Flex 대신 2시간 또는 8시간 백그라운드 창을 사용해야 한다.
2시간과 8시간 요청은 Batch API 작업과 Batch/Background 전용 속도 제한을 공유한다. 입력 토큰은 요청을 제출할 때 한도에 반영되며, 기본값 soonest는 일반 요청·토큰 한도를 사용한다.
대규모 작업을 동시에 제출할 때는 일반 요청과 다른 한도 관리가 필요하다. 따라서 동시 제출량과 남은 한도를 함께 확인해야 한다.
백그라운드 모드는 저장 옵션을 끄거나 Zero Data Retention을 사용해도 결과를 전달하기 위해 응답 데이터를 일시적으로 저장할 수 있다. 문서는 이때 저장되는 요청 내용을 암호화한다고 설명한다.
이번 완료 창은 Responses API 백그라운드 모드에 제공되며 Chat Completions 일반 요청에 적용되는 할인 기능은 아니다. 실시간 응답이 필요한 애플리케이션은 soonest를, 야간 문서 분석은 2h나 8h를 선택하는 식으로 용도를 나눌 수 있다.
오픈AI의 API 가격 조정은 이번이 처음 나온 것이 아니다. 본지는 앞서 GPT-6 루나의 API 입력 단가 인하를 보도했으며, 이번 변경은 모델별 고정 단가가 아니라 처리 대기 시간을 기준으로 할인 폭을 나눈 점이 다르다.
공개 베타를 이용하는 개발자는 완료 창, Standard 처리 여부, 스트리밍 제한, 공유 속도 한도를 함께 확인해야 한다. 현재 문서가 제시한 선택지는 응답 속도와 비용 사이의 조건을 API 요청 단계에서 조정하는 방식이다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular