# 多流推理
Source: [https://docs.qualcomm.com/doc/80-70018-50SC/topic/multistream-inference.html](https://docs.qualcomm.com/doc/80-70018-50SC/topic/multistream-inference.html)
**gst-ai-multistream-inference** 应用程序可对来自摄像头、文件或 RTSP 流的最多 32 个输入流执行 AI 推理（目标检测和分类）。
该图显示了 pipeline，其采用多个输入流，进行预处理和 AI 推理流，将不同的流组合，并将所有流合并到单个视频输出中。
Note: 每个 SoC 支持的最大输入流数量如下：
- QCS6490–8
- QCS8275–16
- QCS9075–32
输出显示在 HDMI 显示器上、保存为 H.264 编码的 MP4 文件或转换为 RTSP 流。
有关该 pipeline 中使用的插件的信息，请参见 [Pipeline 流](https://docs.qualcomm.com/doc/80-70018-50SC/topic/multistream-inference.html#multistream-inference__section_opk_tn2_ncc)。
Figure : gst-ai-multistream-inference pipeline
## 示例模型和标签文件
Table : gst-ai-multistream-inference 的示例模型和标签文件
| Runtime | 模型文件 | 标签文件 |
| :--- | :--- | :--- |
| LiteRT |
- inception_v3_quantized.tflite
- yolov8_det_quantized.tflite
|
- yolov8.labels
- Classification.labels
|
## 前提条件
- 如果尚未完成，请参见[下载并安装 eSDK](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-51/install-sdk.html#download-and-install-esdk-)。
- [下载模型和标签文件](https://docs.qualcomm.com/doc/80-70018-50SC/topic/download-model-and-label-files.html)。
- 要访问您的主机设备，请启用 SSH。有关说明，请参阅[使用 SSH 登录](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-254/how_to.html#use-ssh)。
Note: 如果 SSH 已启用，则可以跳过此步骤。
- 使用 HDMI 端口将显示器连接到设备。有关说明，请参见[设置 HDMI 显示器](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-18/samples.html)。
- 启用显示器：
export XDG_RUNTIME_DIR=/dev/socket/weston && export WAYLAND_DISPLAY=wayland-1Copy to clipboard
- 从 Linux 主机推送视频文件：
scp .mp4 root@:/etc/mediaCopy to clipboard
如果启用摄像头或显示器时遇到问题，请参阅[摄像头故障排除](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-17/troubleshooting.html)和[显示器故障排除](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-18/debug.html)。
## 运行应用程序
示例应用程序使用 /etc/configs/config-multistream-inference.json 文件读取输入参数。
Note: 在 config-multistream-inference.json 文件中，可以将 model-detection.tflite 替换为 yolov8\_det\_quantized.tflite，将 detection.labels 替换为 yolov8.labels。
要创建自己的 config JSON 文件，请使用 [config-multistream-inference.json](https://git.codelinaro.org/clo/le/platform/vendor/qcom-opensource/gst-plugins-qti-oss/-/tree/imsdk.lnx.2.0.0.r2-rel/gst-sample-apps/gst-ai-multistream-inference?ref_type=heads) 作为参考。
1. 使用以下格式的 config-multistream-inference.json
文件：
{
"input-file-path": [
"",
""
],
"input-rtsp-path": [
"",
""
],
"input-type": ""
"model": "",
"labels": "",
"constants" : "",
"output-display": <0 or 1>,
"output-file-path": "