🚀 在 VS Code 中

批量运行多个提示

AI 工具包中的批量运行功能使您能够批量运行多个提示。当您使用 Playground 时,您一次只能手动运行一个提示,并按照它们列出的顺序运行。

批量运行以数据集作为输入,其中数据集中的每一行至少有一个提示。通常,数据集有多行。导入后,您可以选择一个或多个提示以在选定的模型上运行。然后,响应将显示在同一数据集视图中。可以导出运行数据集的结果。

开始批量运行

  1. 在 AI 工具包视图中,选择工具 > 批量运行以打开批量运行视图

  2. 选择示例数据集或导入本地包含聊天提示的 JSONL 文件

    JSONL 文件需要具有 query 字段来表示提示。

  3. 加载数据集后,在任何提示上选择运行重新运行以运行单个提示。

    与在 Playground 中测试模型类似,选择一个模型,为您的提示添加上下文,并更改推理参数。

    Bulk run prompts

  4. 选择全部运行以自动运行所有查询。

    模型响应显示在response列中。

    Run all

    提示

    可以选择仅运行尚未运行的剩余查询。

  5. 选择导出按钮以将结果导出为 JSONL 格式

  6. 选择导入以导入另一个 JSONL 格式的数据集以进行批量运行