OpenAI, Responses API에 WebSocket 모드 도입…복잡한 체인 작업 속도 40% 향상

OpenAI가 Responses API에 WebSocket 모드를 새로 도입해 복잡한 AI 워크플로 처리 속도를 크게 끌어올렸다.

PANews에 따르면 OpenAI는 개발자 문서를 통해, 빈번한 도구 호출이 포함된 긴 체인 작업을 위해 WebSocket 기반 모드를 지원한다고 밝혔다. 이 모드는 클라이언트와 서버 간 지속적인 연결을 유지하고 증분 입력을 처리할 수 있어, 20회 이상 도구 호출이 필요한 긴 체인 작업의 실행 속도를 약 40%까지 단축할 수 있는 것으로 설명됐다.

또한 새 WebSocket 모드는 ZDR(Zero Data Retention) 사양과 호환되며, previous_response_id를 활용한 저지연 컨텍스트 재연결을 지원한다. 단일 WebSocket 연결의 최대 지속 시간은 현재 60분으로 제한된다.

이번 조치는 복잡한 에이전트 실행, 온체인·트레이딩 봇 자동화, 다단계 분석 업무 등에서 응답 지연을 줄여, AI 기반 서비스 전반의 성능 개선으로 이어질 수 있다는 평가다.