引入自动模型选择(预览)
2025 年 9 月 15 日,由 Isidor Nikolic,@isidorn 发布
更快的响应、更低的速率限制几率,以及付费用户高级请求享九折优惠——根据当前容量和性能,为每个请求自动选择最佳可用模型。使用自动选择时,您无法选择特定模型,自动选择会为您处理。Chat 中的自动模型选择功能正在向所有 VS Code 中的 GitHub Copilot 用户推出预览版,从个人计划开始。
自动模型选择的工作原理
自动选择最佳模型,以确保您获得最佳性能并降低速率限制的可能性。自动选择将在 Claude Sonnet 4、GPT-5、GPT-5 mini 和其他模型之间进行选择,除非您的组织禁用了对这些模型的访问。一旦自动选择了一个模型,它将在整个聊天会话中使用该模型。随着我们引入基于任务复杂性选择模型的功能,此行为将在接下来的迭代中发生变化。
对于付费用户,我们目前计划主要依靠 Claude Sonnet 4 作为支持自动选择的模型。
使用自动模型选择时,VS Code 会根据自动选择的模型使用一个变量模型乘数。如果您是付费用户,自动选择将应用九折的请求折扣。例如,如果自动选择 Sonnet 4,它将被计为高级请求的 0.9 倍;如果自动选择 GPT-5-mini,则计为 0 倍,因为该模型已包含在付费用户中。您可以将鼠标悬停在聊天响应上,查看使用了哪个模型和模型乘数。
如果您是付费用户并且高级请求用完,自动选择将始终选择 0 倍模型(例如,GPT-5 mini),这样您就可以不间断地继续使用自动选择。
下一步计划
随着 VS Code 使用量的快速增长,自动选择有助于我们管理容量,以便我们能够处理每天数百万的代理请求。这是我们的近期目标,但这并不是我们对自动选择的长期愿景。我们的目标是使自动选择成为大多数用户的最佳模型选择,为此,我们接下来计划如下:
- 根据任务在小型和大型模型之间动态切换——这种灵活性确保您在节省请求的同时获得性能和效率的正确平衡
- 向自动选择添加更多语言模型
- 让免费计划用户可以通过自动选择利用最新模型
- 改进模型下拉菜单,使其更清楚地显示使用了哪些模型和折扣
使用 VS Code Insiders 并在我们的开源仓库中提供反馈是帮助我们改进自动选择的最佳方式。有关最新信息,请查看自动模型选择文档。
编程愉快!