批量运行多个提示
AI 工具包中的批量运行功能使您能够批量运行多个提示。当您使用 Playground 时,您一次只能手动运行一个提示,并按照它们列出的顺序运行。
批量运行将数据集作为输入,数据集中每行至少包含一个提示。通常,数据集包含多行。导入后,您可以选择一个或多个提示以在选定的模型上运行。然后,响应将显示在相同的数据集视图中。运行数据集的结果可以导出。
开始批量运行
-
在 AI 工具包视图中,选择 TOOLS > Bulk Run 以打开批量运行视图
-
选择一个示例数据集,或导入包含聊天提示的本地 JSONL 文件
JSONL 文件需要有一个 `query` 字段来表示提示。
-
数据集加载后,选择任何提示上的运行或重新运行以运行单个提示。
类似于在 Playground 中测试模型,选择一个模型,为您的提示添加上下文,并更改推理参数。
-
选择运行所有以自动运行所有查询。
模型响应显示在响应列中。
提示有一个选项可以只运行尚未运行的剩余查询。
-
选择导出按钮以将结果导出为 JSONL 格式
-
选择导入以导入另一个 JSONL 格式的数据集进行批量运行