# 概述
一起来观看本次培训课程，该培训重点介绍 Qualcomm Linux AI 开发者工作流。
本视频是专为物联网领域的开发者和专业人士量身定制的，满足您对基于Qualcomm 平台上提高部署设备上 AI 解决方案的理解和技能。
Qualcomm Linux 中的 AI/ML 开发者工作流主要分为两个步骤：
| 第 1 步
编译并优化模型 |
编译并优化来自第三方 AI 框架的模型，以便在 Qualcomm 硬件上高效运行。例如，可以将 Tensorflow 模型导出到 LiteRT 模型。
或者，使用硬件特定的定制对性能和精确度进行量化和微调。
|
| --- | --- |
| 第 2 步
编译应用程序，使用优化后的模型运行设备推理 |
将 AI 模型集成到用例 pipeline 中。
交叉编译应用程序，用以生成使用依赖库的可执行二进制文件。
|
Important
- 确保主机使用 Ubuntu 22.04。
- 本文档中的命令与 Qualcomm Linux 1.4 兼容。
通过运行[开发套件快速入门指南](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-253/getting_started.html)中的命令来验证您的 Qualcomm Linux 发布版本。
如果您的发布版本不是 1.4，请[更新软件](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-253/set_up_the_device.html#panel-0-VWJ1bnR1tab$update-software)。
- 本文档中的示例应用程序和 AI 程序与[支持的版本兼容](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-51/introduction.html#supported-component-versions)。
在开始 AI/ML 开发之前，请确保将匹配的 SDK 下载到主机。
## AI 架构
开发者可以从 ONNX、PyTorch、TensorFlow 或 TFLite 引入模型，并使用 Qualcomm AI SDK 在 Qualcomm AI 硬件 - HTP (NPU)、GPU、CPU 上高效运行这些模型。
## AI 硬件
- **Qualcomm Kryo™ CPU**：业界领先的 CPU，具有高性能和卓越能效。
- **Qualcomm Adreno GPU**：适合以平衡的功率和性能运行 AI 工作负载。AI 工作负载可以通过 OpenCL 内核进行加速。GPU 还可用于加速模型预处理/后处理。
- **Qualcomm Hexagon 张量处理器 (HTP)**：又称 NPU/DSP/HMX，适合以低功耗、高性能执行 AI 工作负载。为优化性能，需要对预训练模型进行量化，使其达到支持的任一种精度。
## AI 软件
AI 堆栈包含各种 SDK，以便利用 AI 硬件加速器的强大功能。开发者可以使用自己选择的一种 SDK 来部署 AI 工作负载。预训练模型（TFLite 模型除外）在运行之前需要使用所选 SDK 将其转换为可执行格式。LiteRT 模型可以使用 TFLite Delegate 直接运行。
TFLite
LiteRT 模型可以使用以下 Delegate 在具有加速的 Qualcomm 硬件上本地运行。
| Delegate | 加速 |
| --- | --- |
| AI Engine Direct Delegate (QNN Delegate) | CPU、GPU 和 HTP |
| XNNPACK Delegate | CPU |
| GPU Delegate | GPU |
Qualcomm Neural Processing Engine SDK (SNPE)
Qualcomm Neural Processing Engine (SNPE) 是一种用于执行深度神经网络的软件加速 runtime。SNPE 提供相关工具来对神经网络进行转换、量化，并在 CPU、GPU 和 HTP 等硬件加速器上对其进行加速。
Qualcomm AI Engine Direct (QNN)
Qualcomm AI Engine Direct 是 Qualcomm 芯片组和 AI 加速核心中适用于 AI/ML 用例场景的一种软件架构。该架构旨在提供统一的 API，模块化和可扩展的预加速库，从而基于这种可重用的结构打造全栈 AI 解决方案。它为 Qualcomm Neural Processing SDK、LiteRT AI Engine Direct Delegate 等 runtime 提供支持。
AI Model Efficiency Toolkit (AIMET)
用于优化（压缩和量化）训练后的神经网络模型的开源库。这是一个复杂的 SDK，旨在生成优化的量化模型，仅供高级开发者使用。
Last Published: Oct 23, 2025
[Previous Topic
AI 开发者工作流程文档](https://docs.qualcomm.com/bundle/publicresource/80-70018-15BY/topics/introduction.md) [Next Topic
编译和优化 AI 模型](https://docs.qualcomm.com/bundle/publicresource/80-70018-15BY/topics/compile-and-optimize-model.md)