手动设置模型转换环境
本文介绍如何手动设置用于跨不同硬件目标(包括 CPU、QNN、AMD NPU 和 Intel NPU)进行模型转换的 Python 环境。
我们建议将环境安装在 Python 虚拟环境或 Conda 环境中。
注意:如果你想在支持 QNN EP 的 NPU 设备上进行推理,我们建议使用 Python 虚拟环境。原因是因为某些模型的推理可能需要 ARM 版本的 Python,而 Conda 尚不支持创建 ARM 版本的 Python 虚拟环境。
- CPU:设置 CPU 环境
- QNN:设置 QNN 环境
- AMD NPU:设置 AMD NPU 环境
- Intel NPU:设置 Intel NPU 环境
设置 CPU 环境
提示:你可以直接设置 NPU 环境,例如设置 QNN 环境。在模型上运行推理时,它将回退到 CPU EP。
另外,你可以选择设置 CPU 环境。
Python 版本:3.12.9
pip install requirements-CPU.txt
设置 QNN 环境
Python 版本:3.12.9
pip install requirements-QNN.txt
设置 AMD NPU 环境
Python 版本:3.10.9
pip install requirements-AMDNPU.txt
设置 Intel NPU 环境
Python 版本:3.10.9
pip install requirements-IntelNPU.txt
安装目标项目所需的依赖
导航到模型项目文件夹。
pip install requirements.txt