现已发布!阅读关于 11 月新增功能和修复的内容。

手动设置模型转换环境

本文档介绍如何为跨不同硬件目标(包括CPU、QNN、AMD NPU和Intel NPU)的模型转换手动设置Python环境。

我们建议您在Python虚拟环境Conda环境中安装您的环境。

注意:如果您想使用QNN EP在NPU设备上进行推理,我们建议使用Python虚拟环境。原因是,某些模型的推理可能需要ARM版本的Python,而Conda目前不支持创建ARM版本的Python虚拟环境。

设置CPU环境

提示:您可以直接设置NPU环境,例如设置QNN环境。当在模型上运行推理时,它将回退到CPU EP。

或者,您也可以选择设置CPU环境。

Python版本:3.12.9

pip install requirements-CPU.txt

设置QNN环境

Python版本:3.12.9

pip install requirements-QNN.txt

设置AMD NPU环境

Python版本:3.10.9

pip install requirements-AMDNPU.txt

设置Intel NPU环境

Python版本:3.10.9

pip install requirements-IntelNPU.txt

安装目标项目所需的依赖

导航到模型项目文件夹

pip install requirements.txt
© . This site is unofficial and not affiliated with Microsoft.