# AI Hub
Source: [https://docs.qualcomm.com/doc/80-70015-15BY/topic/ai-hub.html](https://docs.qualcomm.com/doc/80-70015-15BY/topic/ai-hub.html)
为了在 Qualcomm AI 硬件上快速构建模型原型，AI Hub 提供了一种方法，帮助开发者针对视觉、音频和语音用例在设备上对机器学习模型进行优化、验证和部署
有关设置和入门指南，可参见 [AI Hub](https://app.aihub.qualcomm.com/docs/hub/getting_started.html#installation) documentation。
## 设置
1. 设置 Python 环境。
在计算机上安装 [miniconda](https://docs.conda.io/projects/miniconda/en/latest/miniconda-install.html)。
**Windows：**安装完成后，通过 Start 菜单打开 Anaconda 提示符窗口。
**macOS/Linux：**安装完成后，打开一个新的 shell 窗口。
为 Qualcomm^®^ AI Hub 设置 Python 虚拟环境：
source /miniconda3/bin/activate
conda create python=3.8 -n qai_hub
conda activate qai_hubCopy to clipboard
2. 安装 AI Hub Python 客户端。
pip3 install qai-hub
pip3 install "qai-hub[torch]"Copy to clipboard
3. 登录 AI Hub。
前往 [AI Hub](https://aihub.qualcomm.com/) 并使用 Qualcomm ID 登录，查看所创建的作业的相关信息。
登录后，导航至 *Account > Settings > API Token*。此时应提供一个可用于配置客户端的 API 令牌。
4. 在终端，使用以下命令通过 API 令牌配置客户端。
qai-hub configure --api_token Copy to clipboard
## AI Hub 工作流程
**使用预优化模型。**
1. 导航到 [AI Hub Model Zoo](https://aihub.qualcomm.com/iot/models) 以访问可用于 Qualcomm Linux 开发套件的预优化模型。
2. 从左侧窗格中选择 *Qualcomm QCS6490* 作为芯片组，来筛选适用于 RB3Gen2 的模型。
3. 从筛选结果视图中选择一个模型以导航到模型页面。
4. 在模型页面上，从下拉列表中选择 *Qualcomm QCS6490*，然后选择 *TorchScript > TFLite* 路径。
5. 点击下载按钮后开始模型下载。下载的模型已经过预先优化，可直接 [部署](https://docs.qualcomm.com/doc/80-70015-15BY/topic/develop-own-app.html)。
**引入用户自己的模型**
1. 选择 PyTorch 或 Onnx 格式的预训练模型。
2. 使用 Python API 将模型提交至 AI Hub 以进行编译或优化。
提交编译作业时，您必须选择设备或芯片组以及目标 runtime 才能编译模型。RB3Gen2 支持 TFLite runtime。
| 芯片组 | Runtime | CPU | GPU | HTP |
| --- | --- | --- | --- | --- |
| QCS6490 | TFLite | INT8,FP16, FP32 | FP16,FP32 | INT8,INT16 |
提交后，AI Hub 会为该作业生成一个唯一的 ID。用户可以使用此作业 ID 查看作业详情。
3. AI Hub 会根据选择的设备和 runtime 对模型进行优化。
- 或者，也可以提交作业以便在源自设备集群且已经过配置的实际设备上对优化模型进行分析或推理（使用 Python API）。
- 性能分析：在已配置的设备上对模型进行基准测试并提供统计数据，包括层级的平均推理时间、runtime 配置等。
- 推理：作为推理作业执行过程中的一部分，基于提交的数据使用优化模型在已配置的设备上运行该模型进行推理通过。
4. 提交的每项作业都可以在 AI Hub 门户中进行审核。提交编译作业时，将提供优化模型的可下载链接。然后，该优化模型可以部署在 RB3Gen2 等本地开发设备上。
下方所示为从 [AI Hub documentation](https://aihub.qualcomm.com/iot/models) 中获取的所述工作流程的示例。在本示例中，会将源自 PyTorch 的 MobileNet V2 预训练模型上传到 AI Hub，并编译为优化的 TFLite 模型以便在 RB3Gen2 芯片组上运行。
import qai_hub as hub
import torch
from torchvision.models import mobilenet_v2
import numpy as np
# Using pre-trained MobileNet
torch_model = mobilenet_v2(pretrained=True)
torch_model.eval()
# Trace model (for on-device deployment)
input_shape = (1, 3, 224, 224)
example_input = torch.rand(input_shape)
traced_torch_model = torch.jit.trace(torch_model, example_input)
# Compile and optimize the model for a specific device
compile_job = hub.submit_compile_job(
model=traced_torch_model,
device=hub.Device("QCS6490 (Proxy)"),
input_specs=dict(image=input_shape),
#compile_options="--target_runtime tflite",
)
# Profiling Job
profile_job = hub.submit_profile_job(
model=compile_job.get_target_model(),
device=hub.Device("QCS6490 (Proxy)"),
)
sample = np.random.random((1, 3, 224, 224)).astype(np.float32)
# Inference Job
inference_job = hub.submit_inference_job(
model=compile_job.get_target_model(),
device=hub.Device("QCS6490 (Proxy)"),
inputs=dict(image=[sample]),
)
# Download model
compile_job.download_target_model(filename="/tmp/mobilenetv2.tflite")Copy to clipboard
Note: 要停用先前激活的 qai\_hub 环境，可使用以下命令。
conda deactivateCopy to clipboard
模型下载完毕后，即可直接 [部署](https://docs.qualcomm.com/doc/80-70015-15BY/topic/develop-own-app.html)。
有关 AI Hub 工作流程和 API 的更多详细信息，可参见 [AI Hub Documentation](https://app.aihub.qualcomm.com/docs/hub/index.html#examples)。
Last Published: Jan 26, 2026
[Previous Topic
编译并优化模型](https://docs.qualcomm.com/bundle/publicresource/80-70015-15BY/topics/compile-optimize.md) [Next Topic
TFLite](https://docs.qualcomm.com/bundle/publicresource/80-70015-15BY/topics/tflite.md)