OpenAI Responses API용 WebSocket 지원
AI Gateway의 OpenAI Responses API에 WebSocket 모드가 추가되어 지속 연결로 응답을 이어갈 수 있습니다.
교안에 영향
기존 HTTP 요청만 기준으로 설명한 안내 글은 WebSocket 사용 방법과 previous_response_id 전달 방식이 맞지 않게 됩니다.
요약
- AI Gateway의 OpenAI Responses API에서 WebSocket 모드를 지원합니다. - 지속 연결을 열어 두고 각 턴마다 새 입력과 previous_response_id만 보내도록 바뀌었습니다. - GET /v1/responses 경로에서 raw response.create 프레임을 WebSocket으로 전송할 수 있습니다. - store=false 및 Zero Data Retention과 호환되며, 문서에 설정 방법과 전체 경로 목록이 안내됩니다.
바뀐 것
새 기능
- AI Gateway의 OpenAI Responses API에 WebSocket 모드를 지원합니다.
- GET /v1/responses가 지속적인 WebSocket 연결을 열고 raw response.create 프레임을 받습니다.
개선
- 각 턴마다 전체 컨텍스트를 다시 보내지 않고 새 입력 항목과 previous_response_id만 보내도록 지원합니다.
- store=false 및 Zero Data Retention과 함께 사용할 수 있습니다.
기타
- OpenAI의 WebSocket mode specification upstream을 따릅니다.
- AI Gateway 문서에 설정 방법과 전체 경로 목록이 추가 안내됩니다.