尝试以扩展 VS Code 中的代理模式!

VS Code 中的 AI 语言模型

Visual Studio Code 中的 Copilot 提供了针对不同任务优化的不同内置语言模型。你也可以带上你自己的语言模型 API 密钥来使用其他提供商的模型。本文介绍了如何更改用于聊天或代码补全的语言模型,以及如何使用你自己的 API 密钥。

为你的任务选择合适的模型

默认情况下,聊天使用一个基础模型来提供快速、强大的响应,适用于各种任务,如编码、摘要、基于知识的问题、推理等。

然而,你不仅限于使用这一个模型。你可以从一系列语言模型中进行选择,每个模型都有其独特的优势。你可能有一个自己喜欢使用的模型,或者你可能更喜欢使用特定模型来查询特定主题。有关 AI 模型的详细比较,请参阅 GitHub Copilot 文档中的为你的任务选择正确的 AI 模型

根据你使用的聊天模式,可用模型的列表可能会有所不同。例如,在代理模式下,模型列表仅限于那些对工具调用支持良好的模型。

注意

如果你是 Copilot Business 或 Enterprise 用户,你的管理员需要在 GitHub.com 上的Copilot 策略设置中通过选择Editor Preview Features来为你的组织启用某些模型。

为何使用你自己的语言模型 API 密钥?

除了内置模型,你还可以通过提供有效的 API 密钥直接访问 Anthropic、Azure、Google、Groq、OpenAI、OpenRouter 或 Ollama 的模型。了解如何在 VS Code 中使用你自己的 API

在 VS Code 中使用你自己的语言模型 API 密钥有几个优势

  • 模型选择:访问来自不同提供商的数百种模型,超越内置模型。
  • 实验:实验新的模型或功能,这些模型或功能在内置模型中尚未提供。
  • 本地计算:为你自己的计算使用 GitHub Copilot 中已支持的模型之一,或运行尚未可用的模型。
  • 更大控制权:通过使用你自己的密钥,你可以绕过对内置模型施加的标准速率限制和限制。
重要

此功能处于预览阶段,目前不适用于 Copilot Business 或 Copilot Enterprise 用户。

更改聊天对话的模型

使用聊天输入字段中的语言模型选择器来更改用于聊天对话和代码编辑的模型。

Screenshot that shows the model picker in the Chat view.

你可以通过使用你自己的语言模型 API 密钥进一步扩展可用模型的列表。

如果你有付费的 Copilot 计划,模型选择器会显示高级模型的请求倍数。有关 GitHub Copilot 文档中高级请求的更多信息。

更改代码补全的模型

要更改用于在编辑器中生成代码补全的语言模型

  1. 从 VS Code 标题栏的 Copilot 菜单中选择配置代码补全...

  2. 选择更改补全模型...,然后从列表中选择一个模型。

自带语言模型密钥

如果你已经拥有语言模型提供商的 API 密钥,除了 Copilot 提供的内置模型外,你还可以在 VS Code 的聊天中使用他们的模型。你可以使用来自以下提供商的模型:Anthropic、Azure、Google Gemini、Groq、Ollama、OpenAI 和 OpenRouter。

重要

此功能处于预览阶段,目前不适用于 Copilot Business 或 Copilot Enterprise 用户。

要管理聊天的可用模型

  1. 在聊天视图的语言模型选择器中选择管理模型

    或者,从命令面板运行 GitHub Copilot: 管理模型命令。

    Screenshot that shows the model picker in the Chat view, which has an item for managing the list of models.

  2. 从列表中选择一个模型提供商。

    Screenshot that shows the model provider Quick Pick.

  3. 输入提供商特定的详细信息,例如 API 密钥或端点 URL。

  4. 输入模型详细信息或从列表中选择一个模型(如果提供商可用)。

    以下截图显示了本地运行 Ollama 的模型选择器,其中部署了 Phi-4 模型。

    Screenshot that shows the model picker of Ollama running locally, allowing you to select a model from the list of available models.

  5. 你现在可以从聊天视图中的模型选择器中选择该模型,并将其用于聊天对话。

更新提供商详细信息

要更新提供商详细信息,例如 API 密钥或端点 URL

  1. 在聊天视图的语言模型选择器中选择管理模型

    或者,从命令面板运行 GitHub Copilot: 管理模型命令。

  2. 将鼠标悬停在列表中的模型提供商上,然后选择齿轮图标以编辑提供商详细信息。

    Screenshot that shows the model provider Quick Pick, with a gear icon next to the provider name.

  3. 更新提供商详细信息,例如 API 密钥或端点 URL。

注意事项

在 VS Code 中使用你自己的语言模型 API 密钥时,有几个注意事项

  • 自带模型仅适用于聊天体验,不影响代码补全或 VS Code 中的其他 AI 驱动功能,例如提交消息生成。
  • 每个模型的功能可能与内置模型不同,并可能影响聊天体验。例如,某些模型可能不支持视觉或工具调用。
  • Copilot API 仍用于某些任务,例如发送嵌入、仓库索引、查询细化、意图检测和侧面查询。
  • 当使用你自己的模型时,不保证对模型的输出应用负责任的 AI 过滤。

常见问题

为什么 Copilot Business 或 Copilot Enterprise 无法使用自带模型密钥?

Copilot Business 或 Copilot Enterprise 无法使用自带模型密钥,主要是因为它旨在允许用户在新模型发布时立即进行实验,而这些模型尚未作为内置模型在 Copilot 中提供。

随着我们更好地了解组织大规模使用此功能的需求,自带模型密钥将在今年晚些时候推广到 Copilot Business 和 Enterprise 计划。Copilot Business 和 Enterprise 用户仍然可以使用内置的托管模型。