在 VS Code 中试用

批量运行多个提示

AI 工具包中的批量运行功能使您能够批量运行多个提示。当您使用训练场时,一次只能手动运行一个提示,按照列表中的顺序。

批量运行将数据集作为输入,其中数据集中的每一行至少包含一个提示。通常,数据集有多行。导入后,您可以选择一个或多个提示在所选模型上运行。然后响应会显示在同一数据集视图中。运行数据集的结果可以导出。

开始批量运行

  1. 在 AI 工具包视图中,选择 工具 > 批量运行 打开批量运行视图

  2. 选择示例数据集或导入包含聊天提示的本地 JSONL 文件

    JSONL 文件需要包含一个 query 字段来表示提示。

  3. 加载数据集后,选择任意提示上的 运行重新运行 来运行单个提示。

    与在训练场中测试模型类似,选择一个模型,为您的提示添加上下文,并更改推理参数。

    Bulk run prompts

  4. 选择 全部运行 自动运行所有查询。

    模型响应显示在 响应 列中。

    Run all

    提示

    有一个选项可以仅运行尚未运行的剩余查询。

  5. 选择 导出 按钮将结果导出为 JSONL 格式

  6. 选择 导入 以导入另一个 JSONL 格式的数据集进行批量运行