AI Gateway 라우팅 규칙 지원
Vercel AI Gateway에서 모델 사용을 제어하는 라우팅 규칙을 지원합니다.
교안에 영향
기존 안내 문서의 애플리케이션 코드에서 모델 전환을 안내하는 부분은 routing rules로 대체되어야 합니다.
요약
- Vercel AI Gateway에 routing rules가 추가되어 팀이 사용할 수 있는 모델을 게이트웨이 수준에서 제어할 수 있습니다. - Rewrite 규칙으로 한 모델 요청을 다른 모델로 투명하게 바꿔 전달할 수 있습니다. - Deny 규칙으로 특정 모델 요청을 차단할 수 있으며, 거부 시 403이 반환됩니다. - 규칙은 request-level과 team-level의 기존 설정은 그대로 두고, 요청을 어떤 모델이 처리할지만 바꿉니다. - routing rules는 beta이며 Vercel CLI로 관리합니다.
바뀐 것
새 기능
- Vercel AI Gateway에 routing rules가 추가되었습니다.
- Rewrite 규칙으로 source model 요청을 destination model로 바꿔 보낼 수 있습니다.
- Deny 규칙으로 특정 모델 요청을 차단할 수 있습니다.
개선
- routing rules가 게이트웨이 수준에서 적용되어 애플리케이션 코드 변경 없이 모델 경로를 바꿀 수 있습니다.
기타
- routing rules는 beta이며 Vercel CLI로 관리합니다.