🚀 在 VS Code 中！

AI 工具包常见问题解答

模型

如何找到我的远程模型终结点和身份验证标头？

以下是一些关于如何在常见的 OpenAI 服务提供商中查找终结点和身份验证标头的示例。对于其他提供商，您可以查看其关于聊天完成终结点和身份验证标头的文档。

示例 1：Azure OpenAI

  1. 转到 Azure OpenAI Studio 中的 部署 边栏选项卡，然后选择一个部署，例如 gpt-4o。如果您还没有部署，请查看 Azure OpenAI 文档，了解如何创建部署。

    Select model deployment

  2. 在 终结点 部分的 目标 URI 字段中检索您的聊天完成终结点

    Find model endpoint

  3. 从 终结点 部分的 密钥 属性中获取 API 密钥。

    复制 API 密钥后，以 api-key: <YOUR_API_KEY> 的格式将其添加到 AI 工具包的身份验证标头中。请参阅 Azure OpenAI 服务文档，了解有关身份验证标头的更多信息。

示例 2：OpenAI

  1. 目前，聊天完成终结点固定为 https://api.openai.com/v1/chat/completions。请参阅 OpenAI 文档，了解更多信息。

  2. 转到 OpenAI 文档 并选择 API 密钥 或 项目 API 密钥 以创建或检索您的 API 密钥。

    复制 API 密钥后，以 Authorization: Bearer <YOUR_API_KEY> 的格式将其填写到 AI 工具包的身份验证标头中。有关更多信息，请参阅 OpenAI 文档。

    Find model access key

如何编辑终结点 URL 或身份验证标头？

如果您输入错误的终结点或身份验证标头，您可能会遇到推理错误。

  1. 打开 VS Code setting.json 文件

    • 在身份验证失败通知中选择 编辑 settings.json

      Edit

    • 或者，在命令面板中输入 打开用户设置 (JSON) (⇧⌘P (Windows, Linux Ctrl+Shift+P))

  2. 搜索 windowsaistudio.remoteInfereneEndpoints 设置

  3. 编辑或删除现有的终结点 URL 或身份验证标头。

    Edit endpoint in settings

    保存设置后，树视图或 Playground 中的模型列表将自动刷新。

如何加入 OpenAI o1-mini 或 OpenAI o1-preview 的候补名单？

OpenAI o1 系列模型专门设计用于处理推理和解决问题任务，具有更高的专注性和能力。这些模型花费更多时间处理和理解用户的请求，使其在科学、编码、数学和类似领域非常强大。例如，o1 可以被医疗保健研究人员用于注释细胞测序数据，被物理学家用于生成量子光学所需的复杂数学公式，以及被所有领域的开发人员用于构建和执行多步骤工作流程。

重要提示

o1-preview 模型仅限有限访问。要在 Playground 中试用该模型，需要注册，并且根据 Microsoft 的资格标准授予访问权限。

访问 GitHub 模型市场 查找 OpenAI o1-mini 或 OpenAI o1-preview 并加入候补名单。

我可以使用自己的模型或 Hugging Face 的其他模型吗？

如果您的模型支持 OpenAI API 约定，您可以将其托管在云端，并将模型添加到 AI 工具包作为自定义模型。您需要提供关键信息，例如模型终结点 URL、访问密钥和模型名称。

微调

有很多微调设置。我需要担心所有这些设置吗？

不用，您只需使用默认设置和我们的示例数据集进行测试即可。您也可以选择自己的数据集，但您需要调整一些设置。请参阅 微调教程 了解更多信息。

AI 工具包不搭建微调项目

在安装扩展之前，请务必检查 扩展先决条件。

我有 NVIDIA GPU 设备，但先决条件检查失败

如果您有 NVIDIA GPU 设备，但先决条件检查失败，并显示“未检测到 GPU”，请确保已安装最新的驱动程序。您可以在 NVIDIA 网站上检查和下载驱动程序。

此外，请确保将其安装在路径中。要验证，请从命令行运行 nvidia-smi。

我生成了项目，但 Conda 激活失败，找不到环境

可能是环境设置出现问题。您可以从工作区内部使用 bash /mnt/[PROJECT_PATH]/setup/first_time_setup.sh 手动初始化环境。

当使用 Hugging Face 数据集时，我如何获取它？

在您启动 python finetuning/invoke_olive.py 命令之前，请确保您运行了 huggingface-cli login 命令。这确保数据集可以代表您下载。

环境

该扩展程序在 Linux 或其他系统上工作吗？

是的，AI 工具包可在 Windows、Mac 和 Linux 上运行。

如何禁用 WSL 中 Conda 的自动激活

要禁用 WSL 中的 Conda 安装，请运行 conda config --set auto_activate_base false。这将禁用基础环境。

你们今天支持容器吗？

我们目前正在开发容器支持，它将在未来的版本中启用。

为什么你们需要 GitHub 和 Hugging Face 凭据？

我们将所有项目模板托管在 GitHub 中，而基础模型托管在 Azure 或 Hugging Face 中。这些环境需要帐户才能从 API 访问它们。

我下载 Llama2 时遇到错误

请确保您通过 Llama 2 注册页面 请求访问 Llama。这是为了遵守 Meta 的贸易合规性要求。

我无法在 WSL 实例中保存项目

由于在运行 AI 工具包操作时当前不支持远程会话，因此您在连接到 WSL 时无法保存项目。要关闭远程连接，请在屏幕左下方选择“WSL”，然后选择“关闭远程连接”。

错误：GitHub API 禁止

我们将项目模板托管在 microsoft/windows-ai-studio-templates GitHub 存储库中，扩展程序使用 GitHub API 加载存储库内容。如果您在 Microsoft 中，您可能需要授权 Microsoft 组织以避免此类禁止问题。

请参阅 此问题 以获取解决方法。详细步骤如下

  1. 从 VS Code 注销 GitHub 帐户

  2. 重新加载 VS Code 和 AI 工具包，系统将要求您再次登录 GitHub

  3. 重要提示： 在浏览器的授权页面中，请务必授权该应用访问 Microsoft 组织

    Authorize Access

无法列出、加载或下载 ONNX 模型

检查 VS Code 输出面板中的 AI 工具包日志。如果您看到代理错误或未能获取下载的模型，请关闭所有 VS Code 实例并重新打开 VS Code。

（此问题是由底层 ONNX 代理意外关闭引起的，上述步骤是为了重启代理。）

12/11/2024