使用 Windows 机器学习分析应用性能
分析工具旨在帮助开发人员和人工智能工程师诊断进程、不同执行提供商上的 ONNX 模型以及 Windows ML 事件的 CPU、GPU、NPU 资源使用情况。
在本文中，您可以了解如何开始分析以及如何检查资源使用情况视图和事件视图。
先决条件
- 安装最新版本的 Visual Studio Code。
- 安装 AI Toolkit VS Code 扩展。有关更多信息，请参阅 安装 AI Toolkit。
分析应用启动
在此模式下，分析工具会分析启动的下一个并发送 Windows ML 事件的应用。此选项非常适合测试一次性运行的应用。在这种情况下，您开始分析，然后运行应用，资源使用情况将开始显示。
该工具开始分析新启动的应用。这意味着对于分析 Python 笔记本，如果内核已在运行，您需要重新启动内核才能开始为其进行分析。仅启动新笔记本不会自动开始分析。
要接收 Windows ML 事件，需要以管理员模式运行该工具。如果 VS Code 不是以管理员模式启动的，将显示一个通知并指导您以管理员模式重新启动 VS Code。您需要关闭所有其他 VS Code 实例才能使以管理员模式重新启动生效。 
分析正在运行的应用
在此模式下，分析工具开始分析已在运行的应用。您可以根据以下标准选择一个进程
- 进程 ID：如 12345
- 进程名称：通常是应用名称，不带
.exe。将分析第一个匹配项。 - 进程路径：如
c:\Users\xxx\Inference.Service.Agent.exe。将分析第一个匹配项。
此选项非常适合分析已在运行且无法为分析目的重新启动的应用。
分析 ONNX 模型
在此模式下，分析工具开始分析给定持续时间内目标执行提供商 (EP) 或设备策略上的 ONNX 模型文件。您可以看到它运行时占用的资源使用情况。
此选项非常适合在不同 EP 或设备策略上分析 ONNX 模型。
分析后，将显示一个通知，指导您打开或保存报告。
报告包含 ONNX 模型的详细分析统计信息和结果。
资源使用情况视图
在主窗口中，顶部的图表显示 CPU、GPU、NPU 和内存的使用情况。使用情况每秒更新一次，并保留 10 分钟。您可以使用右上角的工具通过缩放、缩小和平移来导航时间线。
此功能使用性能计数器。为获得更高的准确性，您也可以尝试 Windows Performance Recorder。
Windows ML 事件视图
在主窗口中，底部的图表显示 Windows ML 事件。其时间线与“资源使用情况”视图同步，因此您可以轻松确定在发生特定事件时如何使用资源。
要接收 Windows ML 事件，需要以管理员模式运行该工具。如果 VS Code 不是以管理员模式启动的，将显示一个通知并指导您以管理员模式重新启动 VS Code。您需要关闭所有其他 VS Code 实例才能使以管理员模式重新启动生效。 
目前，我们只显示以下类型的事件
- 确保执行提供商就绪：当 Windows ML 正在准备 EP 时
- 会话创建：创建会话时
- 推理：模型在会话上进行推理时
您学到了什么
在本文中，您学习了如何
- 以不同方式开始分析
- 检查资源使用情况视图
- 检查 Windows ML 事件视图