# 개요
Qualcomm Linux AI 개발자 워크플로우를 집중적으로 다루는 이 학습 세션에 참여하세요.
Qualcomm 플랫폼에 온디바이스 AI 솔루션을 배포하는 작업에 대한 이해와 기술을 향상하려는 IoT 부문 개발자와 전문가에게 적합한 맞춤형 세션입니다.
Qualcomm Linux의 AI/ML 개발자 워크플로우는 2개의 주요 단계로 구성됩니다.
| 1단계
모델 컴파일 및 최적화 |
써드파티 AI 프레임워크의 모델을 컴파일하고 최적화하여 Qualcomm 하드웨어에서 효율적으로 실행되도록합니다. 예를 들어 Tensorflow 모델을 LiteRT 모델로 내보낼 수 있습니다.
선택사항으로, 하드웨어별 사용자 지정을 이용하여 양자화하고 성능과 정확도를 미세 조정할 수 있습니다.
|
| --- | --- |
| 2단계
최적화된 모델을 사용하여 온디바이스 추론을 실행하는 애플리케이션 빌드 |
AI 모델을 사용 사례 파이프라인에 통합합니다.
종속 라이브러리를 사용하여 실행 가능한 바이너리를 생성하도록 애플리케이션을 크로스 컴파일합니다.
|
중요
- 호스트 컴퓨터에서 Ubuntu 22.04를 사용하는지 확인하세요.
- 이 문서의 명령어는 Qualcomm Linux 1.4과 호환됩니다.
[개발 키트 빠른 시작 가이드](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-253/getting_started.html) 에 설명된 명령어를 실행하여 Qualcomm Linux 릴리스 버전을 확인하세요.
릴리스 버전이 1.4가 아닌 경우 [소프트웨어 업데이트](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-253/set_up_the_device.html#panel-0-VWJ1bnR1tab$update-software) 를 진행하세요.
- 이 문서의 샘플 애플리케이션 및 AI 절차는 [지원되는 버전](https://docs.qualcomm.com/bundle/publicresource/topics/80-70018-51/introduction.html#supported-component-versions) 과 호환됩니다.
AI/ML 배포를 시작하기 전에 호스트 컴퓨터에 일치하는 SDK를 다운로드해야 합니다.
## AI 아키텍처
개발자는 ONNX, PyTorch, TensorFlow 또는 TFLite에서 모델을 가져와 Qualcomm AI SDK를 사용하는 Qualcomm AI 하드웨어 HTP(NPU), GPU, CPU에서 효율적으로 실행할 수 있습니다.
## AI 하드웨어
- **Qualcomm Kryo™ CPU**: 탁월한 성능과 뛰어난 전력 효율성을 갖춘 등급 최고의 CPU입니다.
- **Qualcomm Adreno GPU**: 균형 잡힌 전력과 성능으로 AI 워크로드를 실행하는 데 적합합니다. AI 워크로드는 OpenCL 커널로 가속화됩니다. GPU는 모델 전처리/후처리 가속화에도 사용할 수 있습니다.
- **Qualcomm 헥사곤 텐서 프로세서(HTP)**: NPU/DSP/HMX라고도 하며, 저전력 고성능으로 AI 워크로드를 실행하는 데 적합합니다. 성능을 최적화하려면 사전 학습된 모델을 지원되는 정밀도 중 하나로 양자화해야 합니다.
## AI 소프트웨어
AI 스택에는 AI 하드웨어 가속기의 성능을 최대한 활용할 수 있는 SDK가 포함되어 있습니다. 개발자는 선택한 SDK 중 하나를 사용하여 AI 워크로드를 배포할 수 있습니다. 사전 학습된 모델(LiteRT 모델 제외)은 실행하기 전에 선택한 SDK를 사용하여 실행 가능한 형식으로 변환해야 합니다. LiteRT 모델은 TFLite Delegate를 사용하여 직접 실행할 수 있습니다.
TFLite
LiteRT 모델은 다음 Delegate를 사용하는 가속으로 Qualcomm 하드웨어에서 직접 실행할 수 있습니다.
| Delegate | 가속 |
| --- | --- |
| AI 엔진 다이렉트 Delegate(QNN Delegate) | CPU, GPU 및 HTP |
| XNNPACK Delegate | CPU |
| GPU Delegate | GPU |
Qualcomm 신경망 처리 엔진 SDK(SNPE)
Qualcomm 신경망 처리 엔진(SNPE)은 심층 신경망의 실행을 위한 소프트웨어 가속 런타임입니다. SNPE는 신경망을 변환, 양자화하고 CPU, GPU, HTP 등의 하드웨어 가속기에서 가속화하는 도구를 제공합니다.
Qualcomm AI 엔진 다이렉트(QNN)
Qualcomm AI 엔진 다이렉트는 Qualcomm 칩셋 및 AI 가속 코어의 AI/ML 사용 사례를 위한 소프트웨어 아키텍처입니다. 이 아키텍처는 통합 API와 모듈식, 확장 가능한 가속기별 라이브러리를 제공하도록 설계되어, 풀스택 AI 솔루션의 재사용 가능한 기반을 형성합니다. 또한 Qualcomm 신경망 처리 SDK, LiteRT AI 엔진 다이렉트 Delegate와 같은 런타임을 지원합니다.
AI 모델 효율성 툴킷(AIMET)
학습된 신경망 모델을 최적화(압축 및 양자화)하는 오픈 소스 라이브러리입니다. 최적화된 양자화 모델을 생성하도록 설계된 복잡한 SDK이며 고급 개발자만 사용하도록 되어 있습니다.
Last Published: Oct 15, 2025
[Previous Topic
AI 개발자 워크플로우 문서](https://docs.qualcomm.com/bundle/publicresource/80-70018-15BK/topics/introduction.md) [Next Topic
AI 모델 컴파일 및 최적화](https://docs.qualcomm.com/bundle/publicresource/80-70018-15BK/topics/compile-and-optimize-model.md)