# 硬件基准测试应用程序
Source: [https://docs.qualcomm.com/doc/80-70020-50SC/topic/vision_ai_demo_app.html](https://docs.qualcomm.com/doc/80-70020-50SC/topic/vision_ai_demo_app.html)
硬件基准测试应用程序为一组指定的示例应用程序监控设备硬件占用情况，以采集 CPU/GPU/NPU 占用率和设备散热等指标。这些指标解释了资源占用和限制情况，有助于根据需求调整您的 AI 用例。
下图展示了一个 pipeline，该 pipeline 处理来自一组 USB 摄像头的输入，以生成各种输出。
有关这些 pipeline 中使用的插件的更多信息，请参见 [Pipeline 流](https://docs.qualcomm.com/doc/80-70020-50SC/topic/vision_ai_demo_app.html#vision_ai_demo_app__section_znh_hmx_tfc)。
## 示例模型和标签文件
Table : 硬件基准测试应用程序的示例模型和标签文件
| Runtime | 模型文件 | 标签文件 |
| :--- | :--- | :--- |
| LiteRT |
inception_v3_quantized.tflite
- deeplabv3_plus_mobilenet_quantized.tflite
- hrnet_pose_quantized.tflite
- midas_quantized.tflite
- yolox_quantized.tflite
|
- classification.labels
- deeplabv3_resnet50.labels
- hrnet_pose.labels
- monodepth.labels
|
- 确保[下载并安装 eSDK](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-51/install-sdk.html#download-and-install-esdk-)（如果尚未安装）。
- 此应用程序除了 Qualcomm IM SDK 镜像之外，还需要其他包。有关更多说明，请参阅[编译 Qualcomm IM SDK 镜像](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-254/github_workflow_unregistered_users.html#build-qualcomm-im-sdk-image)。
- 按如下方式修改 layers/meta-qti-distro/recipes-products/images/qcom-console-image.bb 文件：
CORE_IMAGE_EXTRA_INSTALL:append = " \
git \
python3 \
python3-pip \
python3-psutil \
python3-pycairo \
python3-pygobject \
"Copy to clipboard
- 编译并刷写您的自定义 QLI 镜像。有关刷写镜像的说明，请参阅[刷写软件镜像](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-254/flash_images.html)。
- 要访问您的主机，请设置 SSH。有关说明，请参阅[使用 SSH 登录](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-254/how_to.html#use-ssh)。
Note: 如果已设置 SSH，则可以跳过此步骤。
- 使用 HDMI 端口将显示器连接到设备。有关说明，请参见[设置 HDMI 显示器](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-18/samples.html)。
如果您遇到显示器问题，请参阅[显示器故障排查](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-18/debug.html)。
- 将两个 USB 摄像头和一个鼠标连接到设备。
如果您遇到任何摄像头或鼠标连接问题，请更新 USB 固件。有关更多信息，请参阅[常见问题解答](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-251/faqs.html#usb-firmware)。
- 在主机 PC 上安装 Qualcomm^®^ Profiler。有关安装说明，请参阅 [Qualcomm Profiler](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-10/13-performance_tools.html#qualcomm-profiler)。
运行相应的可执行文件以设置 Qualcomm Profiler，如下所示：
- 对于 Linux：
/opt/qcom/Shared/QualcommProfiler/API/target-leCopy to clipboard
- 对于 Windows：
C:\Program Files(x86)\Qualcomm\Shared\QualcommProfiler\API\target-leCopy to clipboard
## 运行应用程序
1. 将硬件基准测试应用程序项目克隆到目标设备：
cd /opt
git clone https://github.com/Avnet/QCS6490-Vision-AI-Demo.git
cd QCS6490-Vision-AI-Demo
git checkout QLI-1.5-and-1080p-supportCopy to clipboard
2. 设置所需的 artifact：
bash install.shCopy to clipboard
3. 重新启动设备。您可以看到以下带有 Start 和 Exit 图标的 TRIA 应用程序屏幕。
4. 选择顶部面板上的 TRIA 图标以启动应用程序。
5. 从 **Camera 1** 和 **Camera 2** 下拉菜单中选择示例应用程序。系统散热和硬件占用情况详情显示在屏幕底部。
您可以运行不同的示例应用程序来检查输出并了解硬件占用率。
- 示例 1：从 **Camera 1** 和 **Camera 2** 下拉列表中选择 **Camera** 选项，观察屏幕上的预览流。
- 示例 2：从 **Camera 1** 和 **Camera 2** 下拉列表中选择任意示例应用程序，观察屏幕上的 AI 推理摄像头流。
Note: 有关应用程序的更多信息和功能，请选择 **Info** 图标。
6. 点击 **Exit** 图标关闭应用程序。
## Pipeline 流
下表列出了硬件基准测试应用程序 pipeline 中使用的插件：| **插件** | **说明** |
| --- | --- |
| 摄像头源：v4l2src |
- 从摄像头采集实时流。
- 使用 tee 拆分流进行推理。
|
| [qtimlvconverter](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvconverter.html) |
- 在其接收端口上接收摄像头流。
- 对流数据执行以下预处理。当模型需要浮点值作为输入时，会执行此预处理。
- 颜色转换
- 缩放（放大或缩小）
- 归一化
- 将预处理的视频流转换为其发送端口上的张量数据流。
张量数据流用于 pipeline 后期的推理。 |
| 推理插件：
|
- 推理 runtime 在其接收端口上接收到张量数据后，会运行推理。
- 生成一个张量数据流，并在其发送端口上显示推理结果。
|
| [qtimlvclassification](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvclassification.html) | 处理来自任何分类模型的推理结果。
- 将阈值应用于所选结果数。关于量化模型，添加 Softmax 和常数（q-offsets 和 q-scales）。
- 加载 MobileNet 后处理模块。
- 将结果生成为带有分类标签的视频帧。
- 将这些处理后的结果发送到 qtivcomposer 的接收端口。
|
| [qtimlvdetection](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvdetection.html) | 处理来自任何目标检测模型的推理结果。
- 将阈值应用于所选结果数。
- 加载 YOLO（YOLOv5、YOLOv8、YOLOX 或 YOLO-NAS）模块。
- 生成包含可叠加在目标上的边框的视频帧。
- 将这些处理后的帧发送到 qtivcomposer 的接收端口。
|
| [qtimlvsegmentation](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvsegmentation.html) | 将接收端口上收到的推理张量转换为视频格式，由多媒体插件进行后续处理。 |
| [qtimlvpose](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvpose.html) |
- 将阈值应用于所选结果数。
- 为各种姿态检测模型加载相应的模块。
在本节描述的用例中，qtimlvpose 执行以下操作：
- 加载 HRNet 模块。
- 生成具有绘制姿态的视频帧。
- 将结果发送到 qtivcomposer 的接收端口，以便进一步处理或显示。
|
## 已知问题
- 视频接收端口出现在屏幕上的随机位置。为避免重叠，请将视频接收端口小部件拖动到所需位置。
- 偶尔会出现意外的设备崩溃。重新启动设备。
- 由于平台上的 Qualcomm Profiler 的局限性，GPU 使用率可能显示为 0。
**Parent Topic:** [运行 AI/ML 示例应用程序](https://docs.qualcomm.com/doc/80-70020-50SC/topic/ai-ml-sample-applications.html)
Last Published: Jul 23, 2025
[Previous Topic
AI USB 摄像头](https://docs.qualcomm.com/bundle/publicresource/80-70020-50SC/topics/ai-usb-camera.md) [Next Topic
运行多媒体示例应用程序](https://docs.qualcomm.com/bundle/publicresource/80-70020-50SC/topics/multimedia-sample-applications.md)