在 VS Code 中尝试

批量运行多个提示

AI 工具包中的批量运行功能使您能够批量运行多个提示。当您使用 Playground 时,您一次只能手动运行一个提示,并按照它们列出的顺序运行。

批量运行将数据集作为输入,数据集中每行至少包含一个提示。通常,数据集包含多行。导入后,您可以选择一个或多个提示以在选定的模型上运行。然后,响应将显示在相同的数据集视图中。运行数据集的结果可以导出。

开始批量运行

  1. 在 AI 工具包视图中,选择 TOOLS > Bulk Run 以打开批量运行视图

  2. 选择一个示例数据集,或导入包含聊天提示的本地 JSONL 文件

    JSONL 文件需要有一个 `query` 字段来表示提示。

  3. 数据集加载后,选择任何提示上的运行重新运行以运行单个提示。

    类似于在 Playground 中测试模型,选择一个模型,为您的提示添加上下文,并更改推理参数。

    Bulk run prompts

  4. 选择运行所有以自动运行所有查询。

    模型响应显示在响应列中。

    Run all

    提示

    有一个选项可以只运行尚未运行的剩余查询。

  5. 选择导出按钮以将结果导出为 JSONL 格式

  6. 选择导入以导入另一个 JSONL 格式的数据集进行批量运行