在模型转换中设置模板项目
本文介绍如何在模型转换中设置和自定义模板项目,指导您编辑 `sample.json`、`model_project.config` 等配置文件,以适应您的特定模型、数据集和工作流需求。
创建模板项目后,您会看到以下文件已创建。为了使模板项目正常工作,您可以按照项目的自述文件根据您的需要更新参数。
更新 `sample.json`
为了使示例工作,您需要填写以下属性。例如:
MODEL_PATH: Intel/bert-base-uncased-mrpc
MODEL_TASK: text-classification
DS_NAME: glue
DS_SUBSET: mrpc
DS_SPLIT: validation
DATA_COLS: [ "sentence1", "sentence2" ]
FIXED_PARAMS: [ "batch_size", "sequence_length" ]
FIXED_VALUES: [ 1, 128 ]
您还可以调整其他参数以适应您的需求
execution_providers: [ "CPUExecutionProvider" ]
:对于其他提供程序,如 QNNExecutionProvider。您需要在匹配的设备上运行它。max_length: 128
/batch_size: 1
:对于静态量化,输入大小应固定。调整这些以匹配 `FIXED_VALUES`。max_samples: 100
:使用的样本数量。
更新 `model_project.config` (可选)
更新工作流的 `name` 以反映您想要执行的操作。这样从工作流列表中选择会更容易。
更新 `modelInfo` 的 `displayName` 和 `modelLink` 为您使用的名称和链接。这样从模型列表中选择会更容易。
更新 `sample.custom.config` (可选)
此文件用于渲染“运行”面板和“重新评估”面板。您可以删除或添加参数以匹配您的 `sample.json`。如果您更改 JSON 属性名称,可能需要更新路径。
更新 `inference_sample.ipynb` (可选)
编写您自己的代码来加载和测试输出模型。此文件将被复制到历史文件夹中,因此您可以使用不同的 `ipynb` 文件来比较来自不同历史的模型。