Foundry Toolkit 中的模型游乐场

Foundry Toolkit 游乐场提供了一个交互式环境，用于试验生成式 AI 模型。你可以测试各种提示词、调整模型参数、比较不同模型的响应，并通过附加不同类型的文件来探索多模态能力。

在游乐场中测试模型

如何访问游乐场

• 在 Foundry Toolkit 视图中，选择 Developer Tools (开发者工具) > Build (构建) > Model Playground (模型游乐场)
• 在模型目录的模型卡片中选择 Try in Playground (在游乐场中试用)
• 双击 MY Models (我的模型) 中的某个模型，即可在游乐场中将其打开

要在游乐场中测试模型，请按照以下步骤操作

1. 在 Model Preferences (模型首选项) 中，从下拉列表中选择一个模型。
2. （可选）添加 System Prompt (系统提示词) 以引导模型响应。
3. （可选）配置所选模型可用的模型参数。
4. 在聊天输入框中输入聊天提示词

在游乐场中执行本地模型

Foundry Toolkit 支持在游乐场中运行本地模型。你可以从 Model Preferences (模型首选项) 面板的模型下拉列表中选择一个本地模型。

GitHub 按量付费模型支持

Foundry Toolkit 现已支持 GitHub 按量付费模型，因此在超出免费额度限制后，你仍可继续工作。

• 当你达到 GitHub 的模型使用限额时，Foundry Toolkit 会显示一条警告，并附带指向 GitHub 付费使用文档的链接。

  

• 在你的 GitHub 设置中开启模型计费（需要登录你的 GitHub 账户）。

• 启用计费后，你可以继续在游乐场或 Agent Builder 中使用模型，无需更改工作流程。

模型首选项

Model Preferences (模型首选项) 面板允许你选择用于游乐场交互的模型、设置用于引导模型行为的系统提示词，以及配置所选模型的模型参数。

选择模型

Model Preferences (模型首选项) 面板中的下拉列表显示了你已添加到 Foundry Toolkit 的模型。你可以选择 Browse Models (浏览模型) 来打开模型目录并添加更多模型。

系统提示词

系统提示词是预定义的指令，用于引导模型的行为和响应风格。你可以在输入文本区域添加、编辑或删除系统提示词，以影响模型的响应生成方式。

配置推理参数

可用参数取决于模型类型和发布者。常见参数包括：

• Temperature (温度)：控制模型输出的随机性。较低的值会使输出更具确定性。较高的值则会增加多样性。
• Top P：通过限制所选标记的累积概率来控制输出的多样性。较低的值会使响应更集中；较高的值则允许更具多样性的输出。
• Max Response Length (Tokens) (最大响应长度 - 标记数)：设置模型响应中的最大标记数。这限制了生成文本的长度。
• Frequency Penalty (频率惩罚)：降低模型在响应中重复相同标记的可能性。较高的值会抑制重复。
• Presence Penalty (存在惩罚)：鼓励模型在响应中引入新的主题或概念。较高的值会促进生成文本的多样性。

显示资源使用情况

对于本地模型，还有一个额外的选项 Show resource usage (显示资源使用情况)。启用后，每次响应时都会显示资源使用情况。

聊天提示词

聊天提示词是你提供给模型的输入文本。你可以输入问题、陈述或任何你希望模型响应的文本。模型会根据提供的提示词以及配置的系统提示词和参数生成响应。

聊天提示词输入框中的可用功能

• Send (发送)：提交聊天提示词给模型进行处理。
• Clear (清除)：清除聊天提示词输入框。
• File Attachment (文件附件)：为多模态模型向聊天提示词添加文件。
• Image Attachment (图像附件)：为多模态模型向聊天提示词添加图像。
• Web Search (网页搜索)：执行网页搜索以查找与聊天提示词相关的信息。
• Mode Switch (模式切换)：在用于 AI 功能的不同模式之间进行切换。

模式切换

你可以在聊天提示词输入框中切换不同模式：

• Use native supported AI features from a model (使用模型原生支持的 AI 功能)：此模式允许你使用所选模型的功能，例如网页搜索或文件附件。
• Use all AI features (使用所有 AI 功能)：此模式允许你使用由 Foundry Toolkit 实现的 AI 功能，例如无论模型是否具备原生能力均可使用的文件附件功能。

如果所选模型或 Foundry Toolkit 不支持某项功能，聊天提示词输入框上方会出现警告。该警告建议你切换到支持该功能的其他模型。

模型响应

模型响应显示在聊天提示词输入框上方。在你输入聊天提示词之前，游乐场会显示一个欢迎屏幕，其中包含三个入门提示词，帮助你快速开始使用。

模型响应区域的可用功能

• Copy Response (复制响应)：将模型的响应文本复制到剪贴板。
• Regenerate Response (重新生成响应)：基于相同的提示词重新生成模型的响应，或使用另一个模型重新生成响应。
• Copy Code (复制代码)：将响应中生成的代码复制到剪贴板或将其插入到新文件中。
• Rendering (渲染)：游乐场支持在模型响应中渲染代码片段、图像、Markdown、LaTeX 及其他内容。
• Token Count (标记计数)：显示模型响应中使用的标记数量。这有助于你了解模型的成本和性能。

资源使用情况

当为本地模型启用 Show resource usage (显示资源使用情况) 时，每次响应都会显示使用情况摘要。你也可以通过选择 Usage details (使用详情) 切换到 Profiling (性能分析) 详细信息。

工具栏

游乐场中的工具栏提供了对各种操作和功能的快速访问：

• New Playground (新建游乐场)：创建一个新的游乐场会话。
• History (历史记录)：查看、重命名、删除聊天历史记录并切换到其他会话。
• Automatic Naming (自动命名)：聊天会话的名称会根据用户提示词自动生成。
• Compare (比较)：并排比较来自不同模型的响应。
• View Code (查看代码)：查看 LLM 集成中为聊天提示词生成的代码。

比较模型响应

Compare (比较) 功能允许你并排比较来自不同模型的响应。这对于评估不同模型在同一提示词下的表现非常有用。

比较模型响应的步骤

1. 在工具栏中选择 Compare (比较) 按钮。
2. 从下拉列表中选择要比较的模型。
3. 在其中一个输入框中输入相同的聊天提示词。你的提示词会自动复制到其他输入框中。
4. 选择 Send (发送) 将提示词提交给所有选定的模型。
5. 来自每个模型的响应会并排显示，以便进行轻松比较。

对于你正在比较的每个模型，你可以：

• 将响应文本复制到剪贴板。
• 配置所选模型的模型参数。
• 与所选模型继续聊天。

您学到了什么

在本文中，您学习了如何

• 使用 Foundry Toolkit 游乐场与生成式 AI 模型进行交互。
• 在游乐场中测试模型、配置系统提示词和参数，并通过附加文件探索多模态能力。
• 使用“比较”功能评估不同模型在同一提示词下的表现，并并排查看响应。
• 使用聊天提示词输入框发送提示词、附加文件或图像、执行网页搜索，以及在 AI 功能的不同模式之间切换。
• 查看模型响应、复制或重新生成响应，并渲染代码片段、图像、Markdown 和 LaTeX。
• 跟踪模型响应中的标记计数，以了解成本和性能。
• 使用“模型首选项”面板来选择模型、设置系统提示词并调整推理参数。
• 使用工具栏创建新的游乐场会话、查看和管理聊天历史记录、自动命名会话、比较模型以及查看生成的代码。
• 管理聊天历史记录，包括查看、重命名、删除和切换会话。