# 硬件基准测试应用程序
Source: [https://docs.qualcomm.com/doc/80-70022-50SC/topic/vision_ai_demo_app.html](https://docs.qualcomm.com/doc/80-70022-50SC/topic/vision_ai_demo_app.html)
硬件基准测试应用程序监控一组定义的示例应用程序的设备硬件使用情况，以采集 CPU/GPU/NPU 使用情况和设备温控等指标。这些指标解释了资源使用情况和限制，有助于根据需求调整您的 AI 用例。
Note: 此应用程序在 Ubuntu Server 上不受支持。
下图展示了一个 pipeline：处理来自一组 USB 摄像头的输入以生成各种输出。
有关这些 pipeline 中使用的插件的更多信息，请参见 [Pipeline 流](https://docs.qualcomm.com/doc/80-70022-50SC/topic/vision_ai_demo_app.html#vision_ai_demo_app__section_znh_hmx_tfc)。
## 示例模型和标签文件
Table : 硬件基准测试应用程序的示例模型和标签文件
| Runtime | 模型文件 | 标签文件 |
| :--- | :--- | :--- |
| LiteRT |
inception_v3_quantized.tflite
- deeplabv3_plus_mobilenet_quantized
- hrnet_pose_quantized.tflite
- midas_quantized.tflite
- yolox_quantized.tflite
|
- classification.json
- deeplabv3_resnet50.json
- hrnet_pose.json
- monodepth.json
- yolox.json
|
## 设置目标设备
1. 要从 Linux 主机访问目标设备，请设置 SSH。相关操作步骤，请参阅[使用 SSH 登录](https://docs.qualcomm.com/bundle/publicresource/topics/80-70022-254/how_to.html#use-ssh)。
Note: 如果已设置 SSH，可跳过此步骤。
2. 使用 HDMI 端口将显示器连接到设备。有关说明，请参见[设置 HDMI 显示器](https://docs.qualcomm.com/bundle/publicresource/topics/80-70022-18/samples.html)。
如果您遇到显示器问题，请参阅[显示器问题排查](https://docs.qualcomm.com/bundle/publicresource/topics/80-70022-18/debug.html)。
3. 将两个 USB 摄像头和一个鼠标连接到目标设备。
如果您遇到任何摄像头或鼠标连接问题，请更新 USB 固件。如需了解更多信息，请参阅[常见问题解答](https://docs.qualcomm.com/bundle/publicresource/topics/80-70022-251/faqs.html#usb-firmware)。
4. 在 Linux 主机上安装 Qualcomm^®^ Profiler。有关安装说明，请参阅 [Qualcomm Profiler](https://docs.qualcomm.com/bundle/publicresource/topics/80-70022-10/13-performance_tools.html#qualcomm-profiler)。
将设备连接到 PC 后，从以下位置运行 InstallerLE：
- 对于 Linux：
cd /opt/qcom/Shared/QualcommProfiler/API/target-le
./InstallerLECopy to clipboard
- 对于 Windows：
cd “C:\Program Files (x86)\Qualcomm\Shared\QualcommProfiler\API\target-le”
.\InstallerLE.exeCopy to clipboard
## 在目标设备上运行应用程序
1. 通过 SSH 登录目标设备并下载脚本以设置硬件基准测试应用程序：
cd /opt && curl -L -O https://raw.githubusercontent.com/quic/sample-apps-for-qualcomm-linux/refs/heads/main/scripts/setup_hw_benchmarking_app.shCopy to clipboard
2. 设置以下脚本的权限：
chmod +x setup_hw_benchmarking_app.shCopy to clipboard
3. 设置基准测试应用程序：
bash setup_hw_benchmarking_app.shCopy to clipboard
4. 启动应用程序：
cd QCS6490-Vision-AI-Demo && bash launch_visionai_with_env.shCopy to clipboard
5. 从 **Camera 1** 和 **Camera 2** 下拉列表中选择首选的示例应用程序。系统温控和硬件使用详情显示在屏幕底部。
您可以运行不同的示例应用程序来检查输出并了解硬件利用率。
- 示例 1：从 **Camera 1** 和 **Camera 2** 下拉列表中选择 **Camera** 选项，以观察屏幕上的预览流。
- 示例 2：从 **Camera 1** 和 **Camera 2** 下拉列表中选择任意示例应用程序，在屏幕上观察 AI 推理摄像头流。
Note: 有关应用程序的更多信息和功能，请选择 **Info** 图标。
6. 选择 **Exit** 图标关闭该应用程序。
## Pipeline 流
下表列出了硬件基准测试应用程序 pipeline 中使用的插件：
| **插件** | **说明** |
| --- | --- |
| 摄像头源：v4l2src |
- 从摄像头采集实时流。
- 使用 tee 拆分流进行推理。
|
| [qtimlvconverter](https://docs.qualcomm.com/doc/80-70022-50SC/topic/qtimlvconverter.html) |
- 在其接收端口接收摄像头数据流。
- 对流数据执行以下预处理。当模型需要浮点值作为输入时，会执行此预处理。
- 颜色转换
- 缩放（放大或缩小）
- 归一化
- 将预处理的视频流转换为其发送端口上的张量数据流。
张量数据流用于 pipeline 后期的推理。 |
| 推理插件：
|
- 推理 runtime 在其接收端口上接收到张量数据后，会运行推理。
- 生成一个张量数据流，并在其发送端口上显示推理结果。
|
| 后处理插件 | 用于分类用例的 qtimlpostprocess 可处理任何分类模型的推理结果。
- 将阈值应用于所选结果数。
- 加载 MobileNet 后处理模块。
- 将结果生成为带有分类标签的视频帧。
- 将这些处理后的结果发送到 qtivcomposer 的接收端口。
|
| 后处理插件 | 用于检测用例的 qtimlpostprocess 可处理任何目标检测模型的推理结果。
- 将阈值应用于所选结果数。
- 加载 YOLO（YOLOv5、YOLOv8、YOLOX 或 YOLO-NAS）模块。
- 生成包含可叠加在目标上的边框的视频帧。
- 将这些处理后的帧发送到 qtivcomposer 的接收端口。
|
| 后处理插件 | 用于分割用例的 qtimlpostprocess 将接收端口上接收到的推理张量转换为视频格式，由多媒体插件进行后续处理。 |
| 后处理插件 | 用于姿态估计用例的 qtimlpostprocess
- 将阈值应用于所选结果数。
- 为各种姿态检测模型加载相应的模块。
在本节描述的用例中，qtimlpostprocess 执行以下操作：
- 加载 HRNet 模块。
- 生成具有绘制姿态的视频帧。
- 将结果发送到 qtivcomposer 的接收端口，以便进一步处理或显示。
|
| | |
| | |
| | |
## 已知问题
- 偶尔会观察到设备意外崩溃。重新启动设备。
- 由于平台上的 Qualcomm Profiler 限制，GPU 使用率可能显示为 0。
- 在 YUYV 空间中运行的两个 USB 摄像头可能无法同时工作。要检查您的摄像头是否位于 YUYV 空间，请参阅[前提条件：获取图像格式和大小](https://docs.qualcomm.com/bundle/publicresource/topics/80-70022-8/usb.html#prerequisite-obtain-image-format-and-size)。在这种情况下，您可以选择使用一个 MIPI 摄像头和一个 USB 摄像头。
**Parent Topic:** [运行 AI/ML 示例应用程序](https://docs.qualcomm.com/doc/80-70022-50SC/topic/ai-ml-sample-applications.html)
Last Published: Nov 05, 2025
[Previous Topic
AI USB 摄像头](https://docs.qualcomm.com/bundle/publicresource/80-70022-50SC/topics/ai-usb-camera.md) [Next Topic
运行多媒体示例应用程序](https://docs.qualcomm.com/bundle/publicresource/80-70022-50SC/topics/multimedia-sample-applications.md)