在模型转换中设置模板项目

本文介绍了如何在模型转换中设置和自定义模板项目，指导您编辑诸如 sample.json、model_project.config 等配置文件，以适应您的特定模型、数据集和工作流程需求。

创建模板项目后，您可以看到创建了以下文件。要使模板项目正常工作，您可以按照项目的 readme 文件根据您的需要更新参数。

更新 sample.json

要使示例正常工作，您需要填写以下属性。例如

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

您还可以调整其他参数以适应您的需求

• execution_providers: [ "CPUExecutionProvider" ]: 更改为 QNNExecutionProvider 等其他提供程序。您需要在匹配的设备上运行它
• max_length: 128 / batch_size: 1: 对于静态量化，输入大小应固定。调整这些以匹配 FIXED_VALUES
• max_samples: 100: 使用的样本数量。

更新 model_project.config (可选)

更新工作流的 name 以反映您想要执行的操作。这样可以更容易地从工作流列表中进行选择。

更新 modelInfo 的 displayName 和 modelLink 以使用您使用的模型。这样可以更容易地从模型列表中进行选择。

更新 sample.custom.config (可选)

此文件用于渲染 Run 面板和 Re-evaluate 面板。您可以添加或删除参数以匹配您的 sample.json。如果您更改了 json 属性名称，则可能需要更新路径。

更新 inference_sample.ipynb (可选)

编写您自己的代码来加载和测试输出模型。此文件将被复制到历史记录文件夹，因此您可以使用不同的 ipynb 来比较来自不同历史记录的模型。