VS Code 中的 AI 语言模型
Visual Studio Code 中的 Copilot 提供了针对不同任务优化的多种内置语言模型。您也可以携带自己的语言模型 API 密钥来使用其他提供商的模型。本文介绍如何更改用于聊天或代码补全的语言模型,以及如何使用您自己的 API 密钥。
为您的任务选择合适的模型
默认情况下,聊天使用一个基础模型,为各种任务提供快速、强大的响应,例如编码、摘要、基于知识的提问、推理等等。
然而,您不限于仅使用此模型。您可以从一系列语言模型中进行选择,每种模型都有其独特的优势。您可能有自己喜欢使用的模型,或者您可能更喜欢使用特定模型来查询特定主题。有关 AI 模型的详细比较,请参阅 GitHub Copilot 文档中的为您的任务选择合适的 AI 模型。
根据您使用的聊天模式,可用模型的列表可能会有所不同。例如,在代理模式下,模型列表仅限于那些对工具调用有良好支持的模型。
如果您是 Copilot Business 或 Enterprise 用户,您的管理员需要在 GitHub.com 的 Copilot 策略设置中选择加入编辑器预览功能
,为您的组织启用某些模型。
为什么要使用自己的语言模型 API 密钥?
除了内置模型之外,您还可以通过提供有效的 API 密钥直接访问 Anthropic、Azure、Google、Groq、OpenAI、OpenRouter 或 Ollama 的模型。了解如何在 VS Code 中使用您自己的 API。
在 VS Code 中使用您自己的语言模型 API 密钥有几个优点
- 模型选择:除了内置模型,还可以访问来自不同提供商的数百个模型。
- 实验:试验内置模型中尚未提供的新模型或功能。
- 本地计算:使用您自己的计算资源来运行 GitHub Copilot 已支持的模型之一,或运行尚未提供的模型。
- 更大的控制权:通过使用您自己的密钥,您可以绕过对内置模型施加的标准速率限制和约束。
此功能处于预览阶段,目前不适用于 Copilot Business 或 Copilot Enterprise 用户。
更改聊天对话的模型
使用聊天输入字段中的语言模型选择器来更改用于聊天对话和代码编辑的模型。
您可以通过使用您自己的语言模型 API 密钥来进一步扩展可用模型的列表。
如果您有付费的 Copilot 计划,模型选择器会显示高级模型的高级请求乘数。在 GitHub Copilot 文档中了解更多关于高级请求的信息。
自定义模型选择器
您可以自定义要在模型选择器中显示哪些模型
-
打开模型选择器并选择管理模型。
-
在提供商列表中,选择 Copilot。
-
选择您想要在模型选择器中显示的模型。
更改代码补全的模型
要更改用于在编辑器中生成代码补全的语言模型
-
从 VS Code 标题栏的 Copilot 菜单中选择配置代码补全...。
-
选择更改补全模型...,然后从列表中选择一个模型。
携带您自己的语言模型密钥
如果您已经拥有某个语言模型提供商的 API 密钥,除了 Copilot 提供的内置模型外,您还可以在 VS Code 的聊天中使用他们的模型。您可以使用以下提供商的模型:Anthropic、Azure、Google Gemini、Groq、Ollama、OpenAI 和 OpenRouter。
此功能处于预览阶段,目前不适用于 Copilot Business 或 Copilot Enterprise 用户。
要管理可用于聊天的模型
-
从聊天视图中的语言模型选择器中选择管理模型。
或者,从命令面板运行 GitHub Copilot: 管理模型命令。
-
从列表中选择一个模型提供商。
-
输入提供商特定的详细信息,例如 API 密钥或端点 URL。
-
输入模型详细信息或从列表中选择一个模型(如果提供商支持)。
以下截图显示了在本地运行的 Ollama 的模型选择器,其中部署了 Phi-4 模型。
-
您现在可以从聊天视图的模型选择器中选择该模型,并将其用于聊天对话。
更新提供商详细信息
要更新提供商详细信息,例如 API 密钥或端点 URL
-
从聊天视图中的语言模型选择器中选择管理模型。
或者,从命令面板运行 GitHub Copilot: 管理模型命令。
-
将鼠标悬停在列表中的模型提供商上,然后选择齿轮图标以编辑提供商详细信息。
-
更新提供商详细信息,例如 API 密钥或端点 URL。
注意事项
在 VS Code 中使用您自己的语言模型 API 密钥时,需要考虑以下几点
- 自带模型仅适用于聊天体验,不影响代码补全或 VS Code 中的其他 AI 功能,例如提交信息生成。
- 每个模型的能力可能与内置模型不同,并可能影响聊天体验。例如,某些模型可能不支持视觉或工具调用。
- Copilot API 仍用于某些任务,例如发送嵌入、存储库索引、查询优化、意图检测和辅助查询。
- 当使用您自己的模型时,不保证对模型的输出应用负责任的 AI 过滤。
常见问题
为什么自带模型密钥功能不适用于 Copilot Business 或 Copilot Enterprise?
自带模型密钥功能不适用于 Copilot Business 或 Copilot Enterprise,因为它主要是为了让用户能够在最新模型一经发布就能立即进行实验,而这些模型尚未作为 Copilot 的内置模型提供。
随着我们更好地理解组织大规模使用此功能的需求,自带模型密钥功能将在今年晚些时候向 Copilot Business 和 Enterprise 计划推出。Copilot Business 和 Enterprise 用户仍然可以使用内置的、受管理模型。