Kimi K3와 Kimi K3 Fast의 US 기반 제공 및 ZDR 지원
AI Gateway에서 Kimi K3와 Kimi K3 Fast를 US 기반 제공자로 쓸 수 있고 ZDR도 지원합니다.
교안에 영향
이제 Kimi K3 관련 안내는 moonshotai/kimi-k3 모델 ID, speed 옵션, inferenceRegion, zeroDataRetention 설정을 반영해야 합니다.
요약
- Kimi K3와 Kimi K3 Fast를 Baseten, Fireworks 같은 US 기반 제공자로 제공하도록 추가했습니다. - 두 모델 모두 Zero Data Retention(ZDR)을 지원하며, 요청별 또는 대시보드 설정으로 켤 수 있습니다. - Kimi K3는 moonshotai/kimi-k3 모델 ID로 사용하고, AI Gateway가 제공자 선택과 장애 전환을 처리합니다. - Kimi K3 Fast는 speed 옵션 또는 moonshotai/kimi-k3-fast로 사용할 수 있으며 더 낮은 지연 시간을 제공합니다.
바뀐 것
새 기능
- Kimi K3와 Kimi K3 Fast를 AI Gateway에서 사용할 수 있게 추가했습니다.
- Baseten과 Fireworks 같은 US 기반 제공자를 통해 Kimi K3를 제공합니다.
- Kimi K3와 Kimi K3 Fast 모두 Zero Data Retention(ZDR)을 지원합니다.
- moonshotai/kimi-k3 모델 ID로 요청하면 AI Gateway가 제공자 선택과 장애 전환을 처리합니다.
- Kimi K3 Fast는 speed 옵션 또는 moonshotai/kimi-k3-fast로 사용할 수 있습니다.
기타
- model endpoints API로 제공자별 가격, 지원 파라미터, 가동 시간, 처리량, 지연 시간을 확인할 수 있습니다.
- vercel ai-gateway coding-agents setup으로 코딩 에이전트 설정과 AI Gateway 키 발급을 지원합니다.
- 모델 playground에서 Kimi K3를 시험해 볼 수 있습니다.