AI Gateway의 Grok Voice Think Fast 2.0 지원
xAI의 Grok Voice Think Fast 2.0을 AI Gateway에서 사용할 수 있게 했습니다.
교안에 영향
이제 xai/grok-voice-think-fast-2.0을 AI SDK realtime API로 쓰는 안내가 추가되어, 예전 AI Gateway 문서에 이 모델이 없다는 설명은 맞지 않게 됩니다.
요약
- xAI의 Grok Voice Think Fast 2.0이 AI Gateway에서 새로 지원됩니다. - 이 모델은 오디오 입력과 오디오 출력을 모두 처리하는 음성-음성 모델입니다. - 이전 Grok Voice보다 추론, 전사 정확도, 대화 품질이 개선됐습니다. - AI SDK의 realtime API로 xai/grok-voice-think-fast-2.0을 사용할 수 있습니다.
바뀐 것
새 기능
- xAI의 Grok Voice Think Fast 2.0을 AI Gateway에서 지원합니다.
개선
- 이전 Grok Voice 모델보다 추론, 전사 정확도, 대화 품질이 개선됐습니다.
- 말하는 동안 병렬로 추론해 지연을 늘리지 않고 질의 처리가 가능합니다.
- 이전보다 더 적은 reasoning tokens를 사용하도록 학습되어 tool calls가 더 빨리 실행됩니다.
- 배경 소음과 전화 압축 환경에서도 전사 품질이 유지되도록 개선됐습니다.
기타
- AI SDK의 realtime API로 xai/grok-voice-think-fast-2.0을 사용하고, 서버에서 단기 토큰을 발급해 클라이언트에 API 키가 노출되지 않게 할 수 있습니다.
- realtime documentation과 AI Gateway playground에서 모델 사용 방법을 확인할 수 있습니다.