Page-1

# 运行推理 Source: [https://docs.qualcomm.com/doc/80-70014-54Y/topic/run-inference.html](https://docs.qualcomm.com/doc/80-70014-54Y/topic/run-inference.html) 可使用 TensorFlow Lite C++ API 创建应用程序、加载 TensorFlow Lite 模型并使用 delegate 在硬件上执行该模型。使用 C++ API 创建的运行 TensorFlow Lite 模型的典型应用程序涉及以下步骤： Figure : 创建应用程序和运行 TensorFlow Lite 模型的工作流程 - **[加载 TensorFlow Lite 模型](https://docs.qualcomm.com/doc/80-70014-54Y/topic/load-a-tensorflow-lite-model.html)** TensorFlow Lite 模型是一个 FlatBuffers 文件，其中包含有关模型算子以及任何相关权重和偏差的信息。 - **[创建 TensorFlow Lite 解析器](https://docs.qualcomm.com/doc/80-70014-54Y/topic/create-a-tensorflow-lite-interpreter.html)** 使用 TensorFlow C/C++ API，可编译一个解析器来运行模型。 - **[用选定的 delegate 准备一个模型](https://docs.qualcomm.com/doc/80-70014-54Y/topic/prepare-a-model-with-a-chosen-delegate.html)** 创建解析器并分配运行模型所需的内存后，使用选定的 delegate 准备模型。此步骤从之前加载的模型创建执行图，并使用底层库在 delegate 硬件上执行推理。 - **[准备输入/输出缓冲区](https://docs.qualcomm.com/doc/80-70014-54Y/topic/prepare-input-output-buffers.html)** 编译独立的 TensorFlow Lite 应用程序时，执行 TensorFlow Lite 模型的 pipeline 需要准备输入数据，例如摄像头帧。 - **[运行模型](https://docs.qualcomm.com/doc/80-70014-54Y/topic/execute-a-model.html)** 要运行推理，使用 `Invoke()` API 调用 delegate。在调用此 API 之前，创建适当的输入和输出缓冲区并将它们提供给解析器。 **Parent Topic:** [TensorFlow Lite 开发者工作流程](https://docs.qualcomm.com/doc/80-70014-54Y/topic/tensorflow-lite-developer-workflow.html) Last Published: Aug 06, 2024 [Previous Topic 使用离线转换工具 (CLI) 进行转换](https://docs.qualcomm.com/bundle/publicresource/80-70014-54Y/topics/convert-using-offline-converter-tool-cli.md) [Next Topic 加载 TensorFlow Lite 模型](https://docs.qualcomm.com/bundle/publicresource/80-70014-54Y/topics/load-a-tensorflow-lite-model.md)