# 入门
Source: [https://docs.qualcomm.com/doc/80-70017-54SC/topic/getting-started.html](https://docs.qualcomm.com/doc/80-70017-54SC/topic/getting-started.html)
本指南介绍了如何在 Qualcomm Linux 开发套件上运行 LiteRT 模型。
开始之前，执行以下操作：
1. 设置 Qualcomm Linux 开发套件。相关说明，请参见以下内容：
- QCS6490/QCS5430: [RB3 Gen 2 快速入门指南](bundle/publicresource/topics/80-70017-253)
- QCS9075：[Qualcomm IQ-9100 Beta 评估套件快速入门指南](https://docs.qualcomm.com/bundle/80-70015-263/resource/80-70015-263_REV_AB_Qualcomm_IQ-9100_Beta_Evaluation_Kit_Quick_Start_Guide.pdf)
- QCS8275：[Qualcomm IQ-8 Beta 评估套件快速入门指南](https://docs.qualcomm.com/bundle/80-70017-263/resource/80-70017-263_REV_AA_Qualcomm_IQ-8_Beta_Evaluation_KitQuick_Start_Guide.pdf)
注释： QCS9075 和 QCS8275 快速入门指南仅供授权用户使用。要升级您的访问权限，请前往 [www.qualcomm.com/support/working-with-qualcomm](https://www.qualcomm.com/support/working-with-qualcomm)。
2. 使用 HDMI 将 Qualcomm Linux开发套件连接到显示器。
3. 将 Qualcomm Linux 开发套件升级至 [CodeLinaro Artifactory Service](https://artifacts.codelinaro.org/ui/native/qli-ci/flashable-binaries/) 上提供的最新软件版本。
4. 将镜像刷写到设备。有关说明，参见[刷写镜像](https://docs.qualcomm.com/bundle/publicresource/topics/80-70017-254/flash_images.html)。
## 使用基于 Gstreamer 的 IM SDK 运行 LiteRT 模型
Source: [https://docs.qualcomm.com/doc/80-70017-54SC/topic/getting-started.html](https://docs.qualcomm.com/doc/80-70017-54SC/topic/getting-started.html)
Qualcomm Linux 开发套件附带预编译的 LiteRT 示例程序，用于运行示例 LiteRT 模型。
gst-ai-classification 示例应用程序使用 IM SDK 插件在 Qualcomm Linux 开发套件上运行 LiteRT 分类模型，并使用 LiteRT delegate 进行硬件加速。
Figure : 使用 IM SDK 运行 LiteRT 模型的工作流
Gst-ai-classification 示例程序执行以下操作：
1. 打开 Qualcomm Linux 开发套件上的 IMX577 摄像头，并设置特定的分辨率和帧率，例如 1080p 分辨率，30 fps
2. 对每个摄像头的每一帧进行预处理，以向分类模型提供输入数据。
例如，gst-ai-classification 示例程序：
1. 将 1080p 帧缩小至 224 x 224 分辨率
2. 根据模型要求对输入帧进行归一化处理
3. qtimltflite IM SDK插件是基于LiteRT C++ API 编写的，可执行以下操作：
1. 加载示例 LiteRT 分类模型
2. 使用硬件加速对模型进行推理
4. 对推理的输出进行后处理，即在输出张量中提取预测概率最高的标签。
5. 将推理结果叠加在原始摄像机输入图像上，并将其显示在连接的显示器上。
### 下载并复制示例模型
要将模型和标签文件下载并复制到设备，可执行以下操作：
1. 前往 [Qualcomm^®^ AI Hub](https://aihub.qualcomm.com/iot/models/inception_v3_quantized?searchTerm=inception) 并下载 Inception-v3-Quantized模型。
注释： 针对 QCS6490 演示了 gst-ai-classification 示例应用程序。
2. 请运行以下命令，以便下载相应的标签文件：
wget https://github.com/quic/ai-hub-models/blob/main/qai_hub_models/labels/imagenet_labels.txtCopy to clipboard
注释： 该模型托管在 Qualcomm AI Hub 上，相应的标签文件托管在 QUIC GitHub 上。
3. 要使用安全复制协议 (SCP) 将模型和标签文件复制到设备，运行以下命令：
# For SCP, run the following command:
ssh root@[ip-addr]
mount -o remount,rw /
exitCopy to clipboard
# Copy files securely
scp imagenet_labels.txt root@[ip-addr]:/opt/
scp inception_v3_quantized.tflite root@[ip-addr]:/opt/
Copy to clipboard
注释： 要获取 Qualcomm Linux 开发套件的 IP 地址，请运行以下命令：
ifconfig wlan0Copy to clipboard
注释： 当系统提示输入密码时，输入 oelinux123。
### 使用示例应用程序执行 LiteRT 模型
1. 使用 LiteRT：运行推理
ssh root@[ip-addr]Copy to clipboard
# Setup Wayland Display environment
export XDG_RUNTIME_DIR=/dev/socket/weston && export WAYLAND_DISPLAY=wayland-1Copy to clipboard
1. 修改 opt 文件夹下的配置\_分类.json文件，详情如下：
{
"file-path": "/opt/video.mp4",
"ml-framework": "tflite",
"model": "/opt/inception_v3_quantized.tflite",
"labels": "/opt/imagenet_labels.txt",
"constants": "Mobilenet,q-offsets=<38.0>,q-scales=<0.15008972585201263>;"
}Copy to clipboard
注释： 必须将 video.mp4 文件推送到 opt 文件夹。
2. 运行分类示例应用程序：
gst-ai-classification --config-file=/opt/config_classification.jsonCopy to clipboard
2. 请使用以下参数，以便使用自定义分类模型和标签文件运行示例应用程序：
- `--model`
- `--labels`
1. 修改 opt 文件夹下的 config\_classification.json文件，详情如下：
{
"file-path": "/opt/video.mp4",
"model":"/opt/custom_model.tflite",
"ml-framework": "tflite",
"labels": "/opt/custom_labels.txt"
}Copy to clipboard
2. 运行分类示例应用程序：
gst-ai-classification --config-file=/opt/config_classification.jsonCopy to clipboard
3. 如需停止示例程序，可按下 Ctrl+C。
示例程序在运行时会在所连接的显示器上显示摄像头流，并将推理结果叠加在帧上。
## 使用本机 LiteRT 示例应用程序运行 LiteRT 模型
Source: [https://docs.qualcomm.com/doc/80-70017-54SC/topic/getting-started.html](https://docs.qualcomm.com/doc/80-70017-54SC/topic/getting-started.html)
您可以使用名为标签\_镜像的示例 LiteRT 应用程序运行 LiteRT 模型。其中，该应用程序是 TensorFlow 存储库的一部分。
label\_image 示例应用程序和 LiteRT 库与 Qualcomm Linux 一起交叉编译，并安装在目标设备上。
label\_image 示例程序执行以下操作：
1. 加载分类 LiteRT 模型
2. 使用 delegate 在 Qualcomm 硬件上加速模型，对图像进行推理
若要使用label\_image示例程序运行模型，可执行以下操作：
1. 下载示例模型、相应标签和示例图像：
- BMP 文件可从[此处](https://github.com/sourcecode369/tensorflow-1/tree/master/tensorflow/lite/examples/label_image/testdata/)下载
- MobileNet LiteRT 模型可从[此处](https://github.com/emgucv/models/blob/master/mobilenet_v1_1.0_224_float_2017_11_08/mobilenet_v1_1.0_224.tflite)下载
2. 在主机上运行以下命令：
wget http://download.tensorflow.org/models/mobilenet_v1_2018_08_02/mobilenet_v1_1.0_224_quant.tgzCopy to clipboard
tar -xvf mobilenet_v1_1.0_224_quant.tgzCopy to clipboard
wget https://storage.googleapis.com/download.tensorflow.org/models/mobilenet_v1_1.0_224_frozen.tgzCopy to clipboard
tar -xvf mobilenet_v1_1.0_224_frozen.tgzCopy to clipboard
# For SCP, run the following command:
ssh root@[ip-addr]
mount -o remount,rw /
exitCopy to clipboard
scp mobilenet_v1_1.0_224_quant.tflite root@[ip-addr]:/opt/
scp grace_hopper.bmp root@[ip-addr]:/opt/
scp mobilenet_v1_1.0_224/labels.txt root@[ip-addr]:/opt/
scp mobilenet_v1_1.0_224.tflite root@[ip-addr]:/opt/
Copy to clipboard
3. 要使用以下 delegate 之一进行推理，请执行以下操作：
- 使用 XNNPACK delegate，在 Arm^®^ CPU 上运行模型：
label_image -l /opt/labels.txt -i /opt/grace_hopper.bmp -m /opt/mobilenet_v1_1.0_224_quant.tflite -c 10 -p 1 --xnnpack_delegate 1Copy to clipboard
- 使用 GPU delegate：在 Qualcomm^®^ Adreno™ GPU
上运行模型
label_image -l /opt/labels.txt -i /opt/grace_hopper.bmp -m /opt/mobilenet_v1_1.0_224.tflite -c 10 -p 1 --gl_backend 1Copy to clipboard
Last Published: Jan 24, 2025
[Previous Topic
概述](https://docs.qualcomm.com/bundle/publicresource/80-70017-54SC/topics/tflite-landing-page.md) [Next Topic
LiteRT 架构](https://docs.qualcomm.com/bundle/publicresource/80-70017-54SC/topics/arch.md)