AI SDK와 AI Gateway로 확장한 멀티모델 운영
SERHANT.가 AI SDK와 AI Gateway로 여러 모델을 나눠 쓰며 빠른 반복과 확장을 이뤘습니다.
교안에 영향
AI SDK와 AI Gateway를 전제로 한 이전 안내는 더 이상 단일 모델·단일 통합 중심으로 설명하면 맞지 않습니다.
요약
- S.MPLE를 Next.js 기반으로 Vercel에 배포해 백엔드를 다시 만들지 않고 React Native iOS 앱까지 확장했습니다. - AI SDK로 모델 제공자 간 복잡성을 줄여 구성 변경만으로 빠르게 반복할 수 있게 했습니다. - AI Gateway로 앱과 프로토타입 전반의 사용 현황과 비용을 한곳에서 보게 됐습니다. - Claude Sonnet, Claude Haiku, OpenAI 모델, Gemini를 작업별로 나눠 비용과 속도를 조절했습니다. - 내부 파일럿에서 900명 이상 사용자 규모로 커질 때도 API 계층을 바꾸지 않고 확장했습니다.
바뀐 것
새 기능
- AI SDK를 검토해 여러 모델 제공자를 추상화하는 방식으로 빠른 반복을 지원했습니다.
- AI Gateway로 여러 앱과 프로토타입의 사용 현황을 한곳에서 볼 수 있게 했습니다.
- Claude Sonnet, Claude Haiku, OpenAI models, Gemini를 작업별로 나눠 사용했습니다.
개선
- Next.js on Vercel 기반으로 시작해 백엔드를 다시 만들지 않고 React Native iOS 앱까지 확장했습니다.
- models as guardrails와 caching strategies를 실험해 출력 검증과 token spend 절감을 시도했습니다.
- Fluid compute로 사용자와 작업량 증가를 자동으로 처리해 내부 파일럿에서 900명 이상 규모로 확장했습니다.
기타
- SERHANT.는 AI-native real estate and media company로서 S.MPLE와 함께 listings, transactions, marketing 전반의 workflow automation을 강화하고 있습니다.