AI Gateway에 Ling 3.0 Tiny 추가
ANT Group의 Ling 3.0 Tiny가 AI Gateway에 추가되어 무료로 사용할 수 있게 되었습니다.
교안에 영향
기존에 Ling 3.0 Flash를 free slot로 안내한 글은 더 이상 맞지 않습니다.
요약
- Ling 3.0 Tiny가 AI Gateway에 추가되었고 8/14 8:00am PT까지 무료로 사용할 수 있습니다. - AI SDK에서 모델 이름을 inclusionai/ling-3.0-tiny-free로 지정해 사용할 수 있습니다. - 8월 14일 이후에는 모델 이름이 inclusionai/ling-3.0-tiny로 바뀝니다. - 모델 플레이그라운드와 coding agent에서 Ling 3.0 Tiny를 사용할 수 있습니다.
바뀐 것
새 기능
- ANT Group의 Ling 3.0 Tiny가 AI Gateway에 추가되었습니다.
- Ling 3.0 Tiny는 7.9B 총 파라미터와 약 1.3B 활성 파라미터, 256K 토큰 컨텍스트 창, 최대 32K 출력 토큰을 지원합니다.
- 모델이 responsive agents, instruction following, multi-turn conversation 용도로 설계되었고 native function calling과 prompt caching을 지원합니다.
- AI SDK에서 모델을 inclusionai/ling-3.0-tiny-free로 설정해 사용할 수 있습니다.
- 8월 14일 이후 모델 이름이 inclusionai/ling-3.0-tiny로 바뀝니다.
- model playground에서 Ling 3.0 Tiny를 시험해 볼 수 있습니다.
- coding agent에서 vercel ai-gateway coding-agents setup을 실행한 뒤 inclusionai/ling-3.0-tiny-free를 선택해 사용할 수 있습니다.
기타
- AI Gateway는 모델 호출, 사용량과 비용 추적, 재시도, failover, 성능 최적화, custom reporting, Zero Data Retention, API 키 예산, routing rules를 통합 제공합니다.
- AI Gateway는 공급자 가격을 그대로 반영하며 inference와 Bring Your Own Key(BYOK) 요청에 플랫폼 수수료를 부과하지 않습니다.