现已发布!阅读关于 12 月份的新功能和修复。

AI 工具包中的模型游乐场

AI 工具包游乐场提供了一个交互式环境,用于试验生成式 AI 模型。您可以测试各种提示,调整模型参数,比较不同模型的响应,并通过附加不同类型的输入文件来探索多模态功能。

AI Toolkit playground interface showing a chat interaction with a generative AI model.

在游乐场中测试模型

访问游乐场

  • 在“AI 工具包”视图中,选择 工具 > 游乐场
  • 在模型目录的模型卡片中选择 在游乐场中试用
  • 双击“我的模型”中的模型以在游乐场中打开它

要测试游乐场中的模型,请按照以下步骤操作

  1. 在“模型偏好设置”中,从下拉列表中选择一个模型。
  2. 可选:添加一个系统提示来指导模型响应。
  3. 可选:配置所选模型可用的模型参数。
  4. 在聊天输入框中输入聊天提示

游乐场中的本地模型执行

AI 工具包支持在游乐场中运行本地模型。您可以在“模型偏好设置”面板中的模型下拉列表中选择本地模型。

Screenshot of local model support

GitHub 即用即付模型支持

AI 工具包现支持 GitHub 即用即付模型,因此您可以在超出免费套餐限额后继续工作。

  • 当您达到 GitHub 的模型使用限额时,AI 工具包会显示一个警告,并提供指向 GitHub 付费使用文档的链接。

    Screenshot of the GitHub Pay-as-you-go Model support

  • 在您的 GitHub 设置中为模型开启账单(需要登录您的 GitHub 帐户)。

  • 启用账单后,继续在游乐场或 Agent Builder 中使用模型,而无需更改您的工作流程。

模型偏好设置

Model Preferences panel displaying adjustable parameters for generative AI models

模型偏好设置面板允许您选择模型进行游乐场交互,设置系统提示以指导模型的行为,并为选定的模型配置模型参数。

选择模型

模型偏好设置”面板中的下拉列表显示您已添加到 AI 工具包的模型。您可以选择 浏览模型 来打开模型目录并添加更多模型。

系统提示

系统提示是指导模型行为和响应风格的预定义指令。您可以在输入文本区域中添加、编辑或删除系统提示,以影响模型生成响应的方式。

配置推理参数

可用参数取决于模型类型和发布者。常见参数包括:

  • 温度:控制模型输出的随机性。较低的值使输出更具确定性。较高的值会引入更多变数。
  • Top P:通过限制所选标记的累积概率来控制输出的多样性。较低的值会产生更集中的响应。较高的值允许更广泛的输出。
  • 最大响应长度(标记):设置模型响应中标记的最大数量。这限制了生成文本的长度。
  • 频率惩罚:降低模型在响应中重复相同标记的可能性。较高的值会抑制重复。
  • 存在惩罚:鼓励模型在响应中引入新主题或概念。较高的值会促进生成文本的多样性。

显示资源使用情况

对于本地模型,还有一个额外的选项 显示资源使用情况。启用后,每次响应都会显示资源使用情况。

Screenshot showing 'Show resource usage' in Model Preferences panel

聊天提示

Chat prompt input box in AI Toolkit playground showing an attachment icon for adding files.

聊天提示是您提供给模型的输入文本。您可以输入问题、陈述或任何您希望模型响应的文本。模型会根据提供的提示以及配置的系统提示和参数生成响应。

聊天提示输入框中的可用功能

  • 发送:将聊天提示提交给模型进行处理。
  • 清除:清除聊天提示输入框。
  • 文件附件:为聊天提示附加文件,以用于多模态模型。
  • 图片附件:为聊天提示附加图片,以用于多模态模型。
  • 网络搜索:执行网络搜索以查找与聊天提示相关的信息。
  • 模式切换:在不同的模式之间切换以使用 AI 功能。

在模式之间切换

您可以在聊天提示输入框中切换不同的模式。

  • 使用模型原生的支持的 AI 功能:此模式允许您使用所选模型的原生功能,例如网络搜索或文件附件。
  • 使用所有 AI 功能:此模式允许您使用 AI 工具包实现的 AI 功能,例如文件附件,而无论模型的原生功能如何。

如果所选模型或 AI 工具包不支持某个功能,聊天提示输入框上方会显示一个警告。警告建议您切换到支持该功能的新模型。

Screenshot showing warning message displayed above the chat prompt input box stating Capability not supported.

模型响应

AI Toolkit playground response area showing a generated Python code snippet for encoding text in base64, with options to copy or regenerate the response.

模型响应显示在聊天提示输入框上方。在您输入聊天提示之前,游乐场会显示一个欢迎屏幕,其中包含三个入门提示,供您开始使用游乐场。

模型响应区域中的可用功能

  • 复制响应:将模型的响应文本复制到剪贴板。
  • 重新生成响应:基于相同的提示重新生成模型的响应,或使用另一个模型重新生成响应。
  • 复制代码:将响应中生成的代码复制到剪贴板或将其插入新文件中。
  • 渲染:游乐场支持渲染模型响应中的代码片段、图像、markdown、LaTex 和其他内容。
  • 标记计数:显示模型响应中使用的标记数量。这有助于您了解模型的成本和性能。

资源使用情况

当为本地模型启用 显示资源使用情况 时,每次响应都会显示使用情况摘要。您也可以通过选择 使用详情 切换到 分析 详细信息。

Screenshot showing resource usage for one response

工具栏

游乐场中的工具栏提供了对各种操作和功能的快速访问:AI 工具包游乐场中的工具栏显示了用于清除聊天记录、保存聊天和切换模式的按钮。

  • 新建游乐场:创建一个新的游乐场会话。
  • 历史记录:查看、重命名、删除和切换到聊天历史记录。
  • 自动命名:聊天会话的名称是根据用户提示自动生成的。
  • 比较:并排比较不同模型的响应。
  • 查看代码:查看从 LLM 集成生成的聊天提示代码。

比较模型响应

Screenshot showing side by side comparison of responses from different models in the AI Toolkit playground.

比较功能允许您并排比较不同模型的响应。这有助于评估不同模型对同一提示的性能。

比较模型响应

  1. 在工具栏中选择 比较 按钮。
  2. 从下拉列表中选择要比较的模型。
  3. 在其中一个输入框中输入相同的聊天提示。您的提示将复制到其他输入框中。
  4. 选择 发送 将提示提交给所有选定的模型。
  5. 每个模型的响应将并排显示,以便于比较。

对于您正在比较的每个模型,您可以

  • 将响应文本复制到剪贴板。
  • 为选定的模型配置模型参数。
  • 继续与所选模型进行聊天。

您学到了什么

在本文中,您学习了如何

  • 使用 AI 工具包游乐场与生成式 AI 模型进行交互。
  • 在游乐场中测试模型,配置系统提示和参数,并通过附加文件来探索多模态功能。
  • 使用比较功能来评估不同模型对同一提示的性能,并并排查看响应。
  • 使用聊天提示输入框发送提示、附加文件或图片、执行网络搜索,并在 AI 功能的模式之间进行切换。
  • 查看模型响应,复制或重新生成响应,以及渲染代码片段、图像、markdown 和 LaTeX。
  • 跟踪模型响应中的标记计数,以了解成本和性能。
  • 使用模型偏好设置面板来选择模型、设置系统提示以及调整推理参数。
  • 使用工具栏创建新的游乐场会话、查看和管理聊天历史记录、自动命名会话、比较模型以及查看生成的代码。
  • 管理聊天历史记录,包括查看、重命名、删除和切换会话。
© . This site is unofficial and not affiliated with Microsoft.