자체 모델과 로컬 모델 지원
Copilot CLI가 GitHub 호스팅 라우팅 대신 사용자가 지정한 모델 공급자와 로컬 모델을 지원합니다.
교안에 영향
기존에 GitHub 호스팅 모델만 쓴다고 안내한 글은 자체 모델 공급자와 로컬 모델 지원을 반영해야 합니다.
요약
- Azure OpenAI, Anthropic, OpenAI 호환 엔드포인트 등 원하는 모델 공급자를 설정해 Copilot CLI를 사용할 수 있습니다. - Ollama, vLLM, Foundry Local 같은 로컬 모델도 연결할 수 있습니다. - COPILOT_OFFLINE=true로 오프라인 모드를 켜면 GitHub 서버 접속과 텔레메트리가 중단됩니다. - 자체 모델 공급자를 쓰면 GitHub 인증 없이 시작할 수 있고, 로그인하면 /delegate, GitHub Code Search, GitHub MCP server도 함께 쓸 수 있습니다. - 모델은 tool calling과 streaming을 지원해야 하며, 하위 에이전트도 같은 공급자 설정을 자동으로 따릅니다.
바뀐 것
새 기능
- Copilot CLI가 GitHub-hosted model routing 대신 사용자가 지정한 모델 공급자를 사용할 수 있게 됐습니다.
- Azure OpenAI, Anthropic, 또는 OpenAI-compatible endpoint를 환경 변수로 설정해 연결할 수 있습니다.
- Ollama, vLLM, Foundry Local 같은 로컬 모델을 Copilot CLI와 함께 사용할 수 있습니다.
- COPILOT_OFFLINE=true를 설정해 GitHub 서버와 통신하지 않는 offline mode를 사용할 수 있습니다.
- 자체 모델 공급자를 사용할 때 GitHub authentication이 선택 사항이 됐습니다.
개선
- 로그인한 경우에도 선호하는 모델 응답과 /delegate, GitHub Code Search, GitHub MCP server를 함께 사용할 수 있습니다.
기타
- 모델은 tool calling과 streaming을 지원해야 하며, 최소 128k token context window가 권장됩니다.
- built-in sub-agents인 explore, task, code-review가 공급자 설정을 자동으로 상속합니다.
- 잘못된 공급자 설정이 있으면 GitHub-hosted models로 조용히 되돌아가지 않고 명확한 오류를 표시합니다.
- 터미널에서 copilot help providers로 빠른 설정 안내를 볼 수 있습니다.