手动设置模型转换环境
本文介绍如何为不同硬件目标(包括 CPU、QNN、AMD NPU 和 Intel NPU)手动设置模型转换所需的 Python 环境。
我们建议将环境安装在 Python 虚拟环境 或 Conda 环境 中。
注意:如果您想在 NPU 设备上使用 QNN EP 进行推理,我们建议使用 Python 虚拟环境。 原因是某些模型的推理可能需要 ARM 版本的 Python,而 Conda 尚不支持创建 ARM 版本的 Python 虚拟环境。
- CPU:设置 CPU 环境
- QNN:设置 QNN 环境
- AMD NPU:设置 AMD NPU 环境
- Intel NPU:设置 Intel NPU 环境
设置 CPU 环境
提示:您可以直接设置 NPU 环境,例如 设置 QNN 环境。 在模型推理时,它将回退到 CPU EP。
或者,您可以选择设置 CPU 环境。
Python 版本:3.12.9
pip install requirements-CPU.txt
设置 QNN 环境
Python 版本:3.12.9
pip install requirements-QNN.txt
设置 AMD NPU 环境
Python 版本:3.10.9
pip install requirements-AMDNPU.txt
设置 Intel NPU 环境
Python 版本:3.10.9
pip install requirements-IntelNPU.txt
安装目标项目的依赖
导航到 模型项目文件夹。
pip install requirements.txt