Inkling Small의 AI Gateway 지원
Thinking Machines의 Inkling Small을 AI Gateway와 AI SDK에서 사용할 수 있게 했습니다.
교안에 영향
기존의 AI Gateway 안내 글은 Inkling Small 지원과 thinkingmachines/inkling-small 설정 방법을 반영하지 않아 맞지 않을 수 있습니다.
요약
- AI Gateway에 thinkingmachines/inkling-small 모델이 추가되었습니다. - Inkling Small은 더 큰 Inkling 모델에 가까운 성능을 더 적은 자원으로 제공하며, 오디오와 이미지를 포함한 추론을 지원합니다. - controllable thinking effort로 추론 강도를 조절해 품질, 비용, 지연 시간의 균형을 맞출 수 있습니다. - Zero Data Retention 지원과 coding agents 연동, model playground 사용 안내가 추가되었습니다.
바뀐 것
새 기능
- Thinking Machines의 Inkling Small을 AI Gateway에서 사용할 수 있게 했습니다.
- AI SDK에서 model을 thinkingmachines/inkling-small로 설정해 사용할 수 있습니다.
- Inkling Small은 오디오와 이미지에 대한 native reasoning을 지원합니다.
- controllable thinking effort로 minimal부터 maximum까지 추론 강도를 조절할 수 있습니다.
- 이미지에서 crop, zoom, inspect를 프로그램적으로 수행해 문서와 차트의 세부를 확인할 수 있습니다.
- Inkling Small은 Zero Data Retention과 호환되며, 대시보드 또는 zeroDataRetention: true로 켤 수 있습니다.
- vercel ai-gateway coding-agents setup으로 코딩 에이전트를 AI Gateway에 연결하고 thinkingmachines/inkling-small을 선택할 수 있습니다.
기타
- AI Gateway는 공급자 가격을 그대로 반영하고, inference와 Bring Your Own Key(BYOK) 요청에 플랫폼 요금을 부과하지 않습니다.