AI Gateway에 Nemotron 3 Ultra 추가
Vercel AI Gateway에서 Nvidia의 Nemotron 3 Ultra를 사용할 수 있게 됐습니다.
교안에 영향
AI Gateway 관련 안내 글에서 모델 이름과 AI SDK 설정 예시가 없으면 오래된 내용이 됩니다.
요약
- Nvidia의 Nemotron 3 Ultra가 Vercel AI Gateway에 추가됐습니다. - 이 모델은 긴 작업 흐름을 다루는 에이전트용 추론 모델로, 1M 토큰 문맥과 다중 대화 작업을 지원합니다. - AI SDK에서 모델을 nvidia/nemotron-3-ultra-550b-a55b로 설정해 사용할 수 있습니다. - AI Gateway는 사용량·비용 추적, 재시도, 장애 전환, 성능 최적화와 함께 커스텀 보고, Zero Data Retention, 지연 시간·비용 기준의 동적 공급자 정렬을 제공합니다. - 추론 요청에 플랫폼 수수료가 없고, BYOK 요청에도 추가 수수료를 부과하지 않습니다.
바뀐 것
새 기능
- Nvidia의 Nemotron 3 Ultra를 Vercel AI Gateway에서 사용할 수 있게 했습니다.
- 이 모델은 긴 에이전트 작업 흐름을 위한 공개 Mixture-of-Experts 추론 모델로, 1M 토큰 문맥 창을 지원합니다.
- 이 모델은 계획, 도구 사용, 하위 에이전트 위임, 오류 복구 같은 다중 대화 작업을 대상으로 합니다.
- AI SDK에서 모델을 nvidia/nemotron-3-ultra-550b-a55b로 설정해 사용할 수 있습니다.
개선
- AI Gateway가 사용량과 비용 추적, 재시도, 장애 전환, 성능 최적화를 위한 단일 API를 제공합니다.
- AI Gateway에 커스텀 보고, Zero Data Retention, 지연 시간과 비용 기준의 동적 공급자 정렬이 포함됩니다.
기타
- AI Gateway는 공급자 가격을 그대로 반영하고 추론 요청과 Bring Your Own Key(BYOK) 요청에 플랫폼 수수료를 부과하지 않습니다.
- 처리량은 초당 최대 350 토큰이며, 에이전트 작업에서는 비용이 최대 30% 낮습니다.