# 图像分割
Source: [https://docs.qualcomm.com/doc/80-70020-50SC/topic/gst-ai-segmentation.html](https://docs.qualcomm.com/doc/80-70020-50SC/topic/gst-ai-segmentation.html)
**gst-ai-segmentation** 应用程序可以将图像划分为不同且有意义的部分或段，并根据属性的相似性为每个同质段分配标签。该应用程序使用 Qualcomm Neural Processing SDK runtime、Qualcomm AI Engine Direct runtime 和 LiteRT 进行图像分割。
下图展示了一个 pipeline，该 pipeline 从实时摄像头流、文件、或 RTSP 流接收输入，对视频数据执行预处理，使用 AI 硬件运行推理，并在屏幕上显示分段的数据。
有关 pipeline 流中使用的插件的信息，请参见 [Pipeline 流](https://docs.qualcomm.com/doc/80-70020-50SC/topic/gst-ai-segmentation.html#gst-ai-segmentation__section_xb4_p1s_lbc)。
Figure : gst-ai-segmentation pipeline
## 示例模型和标签文件
| Runtime | 模型文件 | 标签文件 |
| --- | --- | --- |
| Qualcomm Neural Processing SDK | deeplabv3_resnet50.dlc | deeplabv3_resnet50.labels |
| LiteRT | deeplabv3_plus_mobilenet_quantized.tflite | deeplabv3_resnet50.labels |
| Qualcomm AI Engine Direct | deeplabv3_plus_mobilenet_quantized.bin | deeplabv3_resnet50.labels |
| | | |
| | | |
## 前提条件
- 确保[下载并安装 eSDK](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-51/install-sdk.html#download-and-install-esdk-)（如果尚未安装）。
- 将模型和标签文件推送到设备以运行应用程序。相关说明，可参见[下载模型和标签文件](https://docs.qualcomm.com/doc/80-70020-50SC/topic/download-model-and-label-files.html)。
该应用程序支持 Qualcomm Neural Processing SDK、Qualcomm AI Engine Direct 和
LiteRT 模型。
- 要访问您的主机，请设置 SSH。有关说明，请参阅[使用 SSH 登录](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-254/how_to.html#use-ssh)。
Note: 如果已设置 SSH，则可以跳过此步骤。
- 从 Linux 主机推送模型文件：
scp root@:/etc/modelsCopy to clipboard
- 请注意，[下载的脚本](https://docs.qualcomm.com/doc/80-70020-50SC/topic/download-model-and-label-files.html)会将示例 video.mp4 视频下载到 /etc/media 目录。如果您使用的是自定义视频，请确保将视频推送到 /etc/media，并在应用程序的 config.JSON 文件中更新文件路径。
- 使用 HDMI 端口将显示器连接到设备。有关说明，请参见[设置 HDMI 显示器](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-18/samples.html)。
- 激活显示器：
export XDG_RUNTIME_DIR=/dev/socket/weston && export WAYLAND_DISPLAY=wayland-1Copy to clipboard
如果您遇到摄像头或显示器问题，请参阅[摄像头故障排查](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-17/troubleshooting.html)和[显示器故障排查](https://docs.qualcomm.com/bundle/publicresource/topics/80-70020-18/debug.html)。
## 运行应用程序
示例应用程序使用 /etc/configs/config\_segmentation.json 文件读取输入参数。
要创建自己的 config JSON 文件，请使用 [config_segmentation.json](https://git.codelinaro.org/clo/le/platform/vendor/qcom-opensource/gst-plugins-qti-oss/-/blob/imsdk.lnx.2.0.0.r2-rel/gst-sample-apps/gst-ai-segmentation/config_segmentation.json?ref_type=heads) 作为参考。
1. 使用以下格式的 config\_segmentation.json 文件：
{
"file-path": "",
"ml-framework": "",
"model": "",
"labels": "",
"constants": "",
"runtime": ""
}Copy to clipboard
Note: 根据模型、输入流和其他属性更新 config JSON 文件。关于更多详细信息，请参阅 [Config JSON 字段说明](https://docs.qualcomm.com/doc/80-70020-50SC/topic/gst-ai-segmentation.html#gst-ai-segmentation__section_ict_rdr_32c)。
例如，使用 DeepLabV3-Plus-MobileNet LiteRT 模型、DSP runtime、自定义模型和标签路径以及视频文件中的常量来运行应用程序：
{
"file-path": "/etc/media/video.mp4",
"ml-framework": "tflite",
"model": "/etc/models/deeplabv3_plus_mobilenet_quantized.tflite",
"labels": "/etc/labels/deeplabv3_resnet50.labels",
"constants": "deeplab,q-offsets=<0.0>,q-scales=<1.0>;",
"runtime": "dsp"
}Copy to clipboard
Note: `q-scales` 和 `q-offsets` 常量的值分别为 `<1.0>` 和 `<0.0>`。
2. 运行 gst-ai-segmentation 应用程序：
gst-ai-segmentation --config-file=/etc/configs/config_segmentation.jsonCopy to clipboard
要显示可用的帮助选项，请在 SSH shell 中运行以下命令：
gst-ai-segmentation -hCopy to clipboard
要停止用例，请按 CTRL + C。
## 预期输出
分段数据显示在本地显示器上。
Figure : gst-ai-segmentation 应用程序的预期输出
## Pipeline 流
下表列出了图像分割 pipeline 中使用的插件：
| 插件 | 说明 |
| --- | --- |
| 摄像头源：[qtiqmmfsrc](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtiqmmfsrc.html) | |
| 文件源：filesrc |
- 使用 filesrc 采集视频流，然后使用 qtdemux 对视频流进行解复用
- 使用 tee 拆分流进行推理
|
| RTSP 源：rtspsrc |
- 使用 rtspsrc 采集 RTSP 流，然后使用 rtph264depay 进行视频提取
- 使用 tee 拆分流进行推理
|
| h264parse | 渲染 H.264 视频 |
| [v4l2h264dec](https://docs.qualcomm.com/doc/80-70020-50SC/topic/v4l2h264dec.html) | 解码视频 |
| [qtimlvconverter](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvconverter.html) |
- 在其接收端口上接收视频流
- 对流数据执行以下预处理。当模型需要浮点值作为输入时，会执行此预处理
- 颜色转换
- 缩放（放大或缩小）
- 归一化
- 将预处理的视频流转换为其发送端口上的张量数据流
张量数据流用于 pipeline 后期的推理。 |
| 推理插件： |
- 推理 runtime 在其接收端口上接收到张量流后，会运行推理
- 生成一个张量数据流，并在其发送端口上显示推理结果
|
| [qtimlvsegmentation](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtimlvsegmentation.html) | 将接收端口上接收到的推理张量转换为视频格式，多媒体插件将对其进行后续处理 |
| [qtivcomposer](https://docs.qualcomm.com/doc/80-70020-50SC/topic/qtivcomposer.html) |
- 通过组合其接收端口上的内容来合成帧
- 将包含这些组合帧的 GStreamer 缓存推送到其发送端口
|
| [Waylandsink](https://docs.qualcomm.com/doc/80-70020-50SC/topic/waylandsink.html) |
- 将其接收端口上接收的视频流转发到 Weston
- Weston 在本地显示器上渲染视频流
|
## Config JSON 字段说明
Table : 字段说明 – config_segmentation.json 文件
| 字段 | 值/描述 |
| :--- | :--- |
| **ml-framework** | 启用并使用以下模型之一：
snpe：Qualcomm Neural Processing SDK
tflite：LiteRT
qnn：Qualcomm AI Engine direct
|
| **runtime** | 启用并使用以下 runtime 之一： |
| **Input source** | 启用并使用以下输入源之一：
camera：主 (0) 或辅助 (1)。
file-path：视频文件的目录路径。
rtsp-ip-port：RTSP 流的地址：rtsp://<ip>:<port>/<stream>
|
## 已知问题
使用 Qualcomm Neural Processing SDK 模型时观察到 FPS 下降。
## 相关信息
- [使用 LiteRT 进行图像分割和显示](https://docs.qualcomm.com/doc/80-70020-50SC/topic/single-camera-stream-with-image-segmentation-and-display.html)
- [使用 LiteRT 进行图像分割和编码](https://docs.qualcomm.com/doc/80-70020-50SC/topic/single-camera-stream-with-image-segmentation-and-encode.html)
- [使用 Neural Processing SDK 进行图像分割和显示](https://docs.qualcomm.com/doc/80-70020-50SC/topic/single-camera-stream-with-image-segmentation-and-display-with-deeplabv3-quantized.html)
- [使用 Neural Processing SDK 进行图像分割和编码](https://docs.qualcomm.com/doc/80-70020-50SC/topic/single-camera-stream-with-image-segmentation-and-encode-with-deeplabv3-quantized.html)
**Parent Topic:** [运行 AI/ML 示例应用程序](https://docs.qualcomm.com/doc/80-70020-50SC/topic/ai-ml-sample-applications.html)
Last Published: Jul 23, 2025
[Previous Topic
姿态检测](https://docs.qualcomm.com/bundle/publicresource/80-70020-50SC/topics/gst-ai-pose-detection.md) [Next Topic
使用 Python 和容器进行图像分割](https://docs.qualcomm.com/bundle/publicresource/80-70020-50SC/topics/image-segmentation-using-python.md)