手动设置模型转换环境
本文档介绍如何为跨不同硬件目标(包括CPU、QNN、AMD NPU和Intel NPU)的模型转换手动设置Python环境。
我们建议您在Python虚拟环境或Conda环境中安装您的环境。
注意:如果您想使用QNN EP在NPU设备上进行推理,我们建议使用Python虚拟环境。原因是,某些模型的推理可能需要ARM版本的Python,而Conda目前不支持创建ARM版本的Python虚拟环境。
- CPU:设置CPU环境
- QNN:设置QNN环境
- AMD NPU:设置AMD NPU环境
- Intel NPU:设置Intel NPU环境
设置CPU环境
提示:您可以直接设置NPU环境,例如设置QNN环境。当在模型上运行推理时,它将回退到CPU EP。
或者,您也可以选择设置CPU环境。
Python版本:3.12.9
pip install requirements-CPU.txt
设置QNN环境
Python版本:3.12.9
pip install requirements-QNN.txt
设置AMD NPU环境
Python版本:3.10.9
pip install requirements-AMDNPU.txt
设置Intel NPU环境
Python版本:3.10.9
pip install requirements-IntelNPU.txt
安装目标项目所需的依赖
导航到模型项目文件夹。
pip install requirements.txt