AI 工具包中的模型操场

AI 工具包操场提供了一个交互式环境，用于试验生成式 AI 模型。您可以测试各种提示，调整模型参数，比较不同模型的响应，并通过附加不同类型的输入文件来探索多模态功能。

在操场中测试模型

访问操场

• 在 AI 工具包视图中，选择 **工具** > **操场**
• 从模型目录中的模型卡片上选择 **在操场中尝试**
• 从 **我的模型** 中双击一个模型，以在操场中打开它

要在操场中测试模型，请按照以下步骤操作

1. 在 **模型首选项** 中，从下拉列表中选择一个模型。
2. （可选）添加 **系统提示** 以指导模型响应。
3. （可选）为所选模型配置可用的模型参数。
4. 在聊天输入框中输入聊天提示

GitHub 按需付费模型支持

AI 工具包现在支持 GitHub 按需付费模型，因此您可以在超过免费套餐限制后继续工作。

• 当您达到 GitHub 的模型使用限制时，AI 工具包会显示一个警告，并附有指向 GitHub 付费使用文档的链接。

  

• 在您的 GitHub 设置中为模型启用计费（需要登录您的 GitHub 帐户）。

• 启用计费后，无需更改工作流程即可继续在操场或代理生成器中使用模型。

模型首选项

**模型首选项** 面板允许您选择一个模型进行操场交互，设置系统提示以指导模型的行为，并为所选模型配置模型参数。

选择模型

**模型首选项** 面板中的下拉列表显示了您已添加到 AI 工具包中的模型。您可以选择 **浏览模型** 来打开模型目录并添加更多模型。

系统提示

系统提示是指导模型行为和响应风格的预定义指令。您可以在输入文本区域中添加、编辑或删除系统提示，以影响模型生成响应的方式。

配置推理参数

可用参数取决于模型类型和发布者。常用参数包括：

• 温度 (Temperature)：控制模型输出的随机性。较低的值使输出更具确定性。较高的值会引入更多可变性。
• Top P：通过限制所选令牌的累积概率来控制输出的多样性。较低的值会产生更专注的响应。较高的值允许更多样化的输出。
• 最大响应长度（令牌数）：设置模型响应中的最大令牌数。这限制了生成文本的长度。
• 频率惩罚 (Frequency Penalty)：降低模型在响应中重复相同令牌的可能性。较高的值不鼓励重复。
• 存在惩罚 (Presence Penalty)：鼓励模型在响应中引入新的主题或概念。较高的值可促进生成文本的多样性。

聊天提示

聊天提示是您提供给模型的输入文本。您可以输入问题、陈述或任何您希望模型响应的文本。模型会根据提供的提示以及配置的系统提示和参数生成响应。

聊天提示输入框中的可用功能

• **发送**：将聊天提示提交给模型进行处理。
• **清除**：清除聊天提示输入框。
• **文件附件**：为多模态模型向聊天提示附加文件。
• **图像附件**：为多模态模型向聊天提示附加图像。
• **Web 搜索**：执行 Web 搜索以查找与聊天提示相关的信息。
• **模式切换**：在使用 AI 功能的不同模式之间切换。

在模式之间切换

您可以在聊天提示输入框中切换不同的模式

• **使用模型的原生支持 AI 功能**：此模式允许您使用所选模型的原生功能，例如 Web 搜索或文件附件。
• **使用所有 AI 功能**：此模式允许您使用 AI 工具包实现的 AI 功能，例如文件附件，无论模型的原生功能如何。

如果所选模型或 AI 工具包不支持某项功能，则聊天提示输入框上方会出现警告。该警告会建议您切换到支持该功能的其他模型。

模型响应

模型响应显示在聊天提示输入框上方。在您输入聊天提示之前，操场会显示一个欢迎屏幕，其中包含三个入门提示，供您开始使用操场。

模型响应区域中的可用功能

• **复制响应**：将模型的响应文本复制到剪贴板。
• **重新生成响应**：基于相同的提示重新生成模型的响应，或使用另一个模型重新生成响应。
• **复制代码**：将响应中生成的代码复制到剪贴板或将其插入到新文件中。
• **渲染**：操场支持在模型响应中渲染代码片段、图像、Markdown、LaTex 和其他内容。
• **令牌计数**：显示模型响应中使用的令牌数量。这有助于您了解模型的成本和性能。

工具栏

操场中的工具栏可快速访问各种操作和功能：

• **新建操场**：创建一个新的操场会话。
• **历史记录**：查看、重命名、删除和切换到聊天记录。
• **自动命名**：聊天会话的名称会根据用户提示自动生成。
• **比较**：并排比较不同模型的响应。
• **查看代码**：查看从 LLM 集成生成的聊天提示代码。

比较模型响应

**比较** 功能允许您并排比较不同模型的响应。这对于评估不同模型在同一提示下的性能非常有用。

要比较模型响应

1. 选择工具栏中的 **比较** 按钮。
2. 从下拉列表中选择您想要比较的模型。
3. 在其中一个输入框中输入相同的聊天提示。您的提示将被复制到其他输入框中。
4. 选择 **发送** 以将提示提交给所有选定的模型。
5. 每个模型的响应会并排显示，以便于比较。

对于您正在比较的每个模型，您可以：

• 将响应文本复制到剪贴板。
• 为所选模型配置模型参数。
• 与所选模型继续聊天。

您学到了什么

在本文中，您学习了如何

• 使用 AI 工具包操场与生成式 AI 模型进行交互。
• 在操场中测试模型，配置系统提示和参数，并通过附加文件探索多模态功能。
• 使用“比较”功能评估不同模型在同一提示下的性能，并并排查看响应。
• 使用聊天提示输入框发送提示、附加文件或图像、执行 Web 搜索以及在 AI 功能的不同模式之间切换。
• 查看模型响应，复制或重新生成响应，以及渲染代码片段、图像、Markdown 和 LaTeX。
• 跟踪模型响应中的令牌计数以了解成本和性能。
• 使用“模型首选项”面板选择模型、设置系统提示和调整推理参数。
• 使用工具栏创建新的操场会话、查看和管理聊天记录、自动命名会话、比较模型以及查看生成的代码。
• 管理聊天记录，包括查看、重命名、删除和切换会话。