参加你附近的 ,了解 VS Code 中的 AI 辅助开发。

在模型转换中设置模板项目

本文介绍了如何在模型转换中设置和自定义模板项目,指导您编辑sample.json、model_project.config等配置文件,以适应您特定的模型、数据集和工作流需求。

创建模板项目后,您会看到以下文件已创建。要使模板项目正常工作,您可以按照项目的自述文件根据您的需要更新参数。

Template project files

更新 sample.json

为了使示例正常工作,您需要填写以下属性。例如:

  • MODEL_PATH: Intel/bert-base-uncased-mrpc
  • MODEL_TASK: text-classification
  • DS_NAME: glue
  • DS_SUBSET: mrpc
  • DS_SPLIT: validation
  • DATA_COLS: [ "sentence1", "sentence2" ]
  • FIXED_PARAMS: [ "batch_size", "sequence_length" ]
  • FIXED_VALUES: [ 1, 128 ]

您还可以调整其他参数以适应您的需求

  • execution_providers: [ "CPUExecutionProvider" ]: 对于其他提供程序,如 QNNExecutionProvider。您需要在匹配的设备上运行它
  • max_length: 128 / batch_size: 1: 对于静态量化,输入大小应该固定。调整这些参数以匹配 FIXED_VALUES
  • max_samples: 100: 使用的样本数量。

更新 model_project.config(可选)

更新工作流的 name 以反映您想做的事情。这样可以更容易地从工作流列表中选择。

将 modelInfo 的 displayNamemodelLink 更新为您使用的那个。这样可以更容易地从模型列表中选择。

更新 sample.custom.config(可选)

此文件用于渲染 Run 面板和 Re-evaluate 面板。您可以删除或添加参数以匹配您的 sample.json。如果您更改了 json 属性名称,可能需要更新路径。

更新 inference_sample.ipynb(可选)

编写您自己的代码来加载和测试输出模型。此文件将复制到历史文件夹中,因此您可以使用不同的 ipynb 来比较不同历史中的模型。

© . This site is unofficial and not affiliated with Microsoft.