# AI Hub

Qualcomm^®^ [AI Hub](https://aihub.qualcomm.com/get-started) mang đến một cách nhanh chóng để tối ưu hóa mô hình, nhận thành phần đã biên dịch để triển khai trên thiết bị, lập hồ sơ (profile) mô hình để xác minh hiệu suất và chạy suy luận để kiểm tra độ chính xác.

Bạn có hai tùy chọn để dùng thử mô hình trên nền tảng Snapdragon X. Bạn có thể:

> 
> 
> 1. Chọn các mô hình đã được tối ưu hóa trước: Nhà phát triển có thể khám phá và chọn [các mô hình đã được tối ưu hóa trước](https://aihub.qualcomm.com/compute/models) từ AI Hub. Các mô hình này được thiết kế riêng cho nền tảng Snapdragon X.
> 2. Dùng mô hình của riêng bạn (BYOM): Nhà phát triển có thể dùng ngay mô hình AI của riêng họ trên AI Hub. [Đây](https://app.aihub.qualcomm.com/docs/hub/getting_started.html#compute) là một ví dụ minh họa về mô hình mobilenet\_v2 để biên dịch, tạo hồ sơ và chạy các tác vụ suy luận.
> 
> 
> 
> ![../../_images/ai-hub-steps-no-links-03.png](data:image/png;base64,UklGRkIZAABXRUJQVlA4TDUZAAAvf8M4AFWL4rZtI1v7j524d98RMQH6a/BiSYBDwkhzASWqd2HCTMDOti363dIVgEOBZlLadsLIZMBtIOFQCwB9uJ36/yXZcQzBEBw6dOjQEBw6NISB4NChIUw4oSAoFIQXKlQ4ofetqquqX1fpf/t6aSRCYBgjFpUKgcJm4uVGJiFiPwRKb2oCw8bLOx0NoImaidNC8Zh4aRjei4PDWXFcUHXOEBCD8XbTP4Rm4lNEXnnB0akxrEy0XAQD6KHyRqOjHw0fxZAkSYmxz0FYjPWnWIS5HmoiSYo64/iRQogE/KtAAmH/J8Bbre15Y9vaRveGcEO5odwwbgg3lzipzNo1M0fNSc3ITFSkDmIiKmQiKlBCJiZqB7ALmZkIs6hE9H8CrNbaNjmS5E6fsWDgmLAJJExYMGHBhAULFiw4sGDBggULFkzYsKDYLPqlDEX1pHRSVAaMF5vM+GDCtGFoL2nDLGVFejFL2jBLWiEQRC4UDQfkwO/DO2u4Eax8iQwnerFAVLQcGLkRXog2Kx/CAbmROHXOmDK07OhFNsySViRt/HnwlzFDO86pRTZ8FoimB3WaBhBJ3AuTD+2FrJh9Ri6Ith2JmUZwG+b3nzBtda2goKDKnNi2VTdxty6RzxWJRCKRSCQSiUQ++eTtHxnXDCFDyND6PwEfZeX/lf9X/l/5f+X/lf9X/v9CzR8GQAkI2C7C9eNDvJMrLooAN8R1cT3jJEO00T0rYBPh2vV23oYvhGc5ERSwA+whBa48hZDIEyt9OH0KyaK/kUHGHvaQFkMiN6N8p3iyLRodAAaL3Iwi7uhgbvBgeD8oBAE3AoA8N8p4InuYm61/Bx/+MAsILlK00QWgAU7CB7iPnF5Io2MyNviwd3wfw69moY8UcAyov7PhqpM3SjnQmZuz4SrvYTsDgeRmGkU7pY4MqDMFoABUFXBimhjNzXY/fZDhmo0MAukwiheODKizggi0IPDG0XvvDwBUEelGETtGi+gwnF/hGd7F/hrtfSCwg4zGjgGWED7s7/cTcBja4S7gmEYhJzpbSAFAFVnFjpOUQFpDxUGOYl4T3GBd4V7hM/ksxzNcg4qeyac58SkubBVyHedX2pynwRicRQvwkqlfYbPIzPkMZwF7wLjCBgYwmFTujIHOHjBQeAlgDDD1i/K/ic+h0/799RDoPwT6ig6MEn1LSoccfwOT//ulyf1vtj1gMAY6Ci8BjAGmvhWD/6OD8qMV4l94MJgwDLwcZt4DxmxpUNT/T//5vve/wbaADvMecJFatM2tGqUV/teAUP/fgFzVNSBXtWbIVQ3gPCqcmx5aOHvXa8NI2ib00MoccNoAupNqJjq9BvSqk9o4nHptGEnbgPk7FhD/ZM7RgT7zQ2AJy+MlU9+aTntQC0Mzt4vcHNwucnNwuxi2zfKkejGfDB1cFoZ6UUx96+7LQljZycKphfBJMXWmqfcD1ZuevCimvjVTDX5JOkAvf9HkMV9vqAx/xJv4UKbAgNkDkjzs+Wxp46XQQji5dZGd3LrIBkOvkhJD3bSj0JthIdTd1ZMahLp7q0y19y8szSzN3M8yoburJ/VmqP3XZGlhvqUQz0LbIL52cv0MZ/czGcBgwswJ0M9jef9asZPU3u0ktXdbhlH04ni90OhHieOYXOrgPsqsd9UnJ0MTxxGUP3lZQF/6F7Jfo38Db/bXJvVn6OdH4j2EwZSZuQ+DdFyczf0Qpb3UHmid9kDTKJvdgumLX1l0Dyf1oH6XSm+66B7+ucsOK5ZLTRdazrUtp19subIQnEu7kDK/0nBjK9kpHVwbRtKaIdcG0F9adF0DctXMyewAzTUgVy2cvZuJTq8BvWqa0EMr54ChpgH7UgM4Hy7uj8PbSRPAAOMcL4EBkO541gWhJrovDG5dZAe3LrJXSTq5brbaXroZR3aWmgxC3b0d9e5f0zaXamepyZvxR24Fudi8YC4cftZTRAdzLSKin782T/aZnHpRTH27GLbNshC+NCimPjSzzBR1UnWRm4PbwlAzxdSZpt5tuydPwspenoRt7+SgelK9mOrYfhSTQT+BOhmwcpwAMACSdMezxtyrDsorN7k5qN7k5qAaTM0sJ6dt5CejOahPgtE8e2q7LwvFyl4WisZfMTl9DEbz7MlMNfjDRvNFm2TEXAnmMeVKvJz2LFsW2OJxN91dPanB0Kuk1x536MmtF8XMeja5dZEtxMHSzNLM7WNlWplamQahNzMx1E0zEZ/EoAMABkCS7vic1x+kCfImW5ZYgBy+4hqQq7oG5KrGhlzV6DDTk7npl0+8MoyqbUIPreQBRW2D/q7FYdYrw6jaBsz8rtKm6P3uksflxYUzFZIjQpR5SfpicvdsRs0OSyvZxHG0DKPoa+Hx5nC+1klq72+prgG8kp1UHy+Ol0H6ILYAYwDs7Xi8am8nTQBjkHiW/M8thH9tZfqTTtesZzIeljw/hxnyv9i8eGzB8+8PNIloZ8F7UI8iLUKfNd2NZfdoud23h5m66D6NstntPZ3l4RfaA+0trfdlfU8wPd7DD6IPY5DssOVbUxiDdC33tPDlDQowh5XJUlRE7l+tXzT1Geut863z2o3d/Nrlxl/fWrLG0fE8Fpke2eW2s9TkVZJOrvcMQk1fGNy6yL7lYvqVIDSV62arTW+uT8JPYAyQpDuT1U0G/Q5gjMFgLXdFvJt9SZOC9iFQVe9MTIgobl9MOe5xgffmQTsmInHmdrjIGozm2VMwNbOMd6y+lxfXaze5OajvWezWxmtt7+SkOjltI3t2PwkeJ8jb6Q/8Agb9DgAYABjwGn5iREmjsvfbE4BKeqdCIYk73+dVZsHGoZxkRBL3qFiPZ1OvDKNqbMhV26B/yTVgh6+5BuTqe7w2vbBfMQ3IlxodZrKfnwWzt5MmAAyAZEvldQAYANh7OOY1fUYLmxY/tDdABVnwhmTEkLR7dZ4trN51TohEX6svyt9/cH8aueOHewAMMM6ZJDAAPsvxcMxrfqOC8nvvvT+ugVLtmIhOdv/Oll6fnLFpCknOu2bBWuYvbq7c8TdgsJfTh0G65XMpaFKwfvPNfckh4/3+Xhk6cEW0+zJb7L+hM6LoYFiWYR7AwGfmBOjzTTypr3TaUd3Mn6My/0S1vvJvXpaoH718JqoXwjpbfn3uXe1eWnr5rl9e8fLwFNhi9oCEiz3hPhiwvkfru/k9C+MgUw+C+VDJf8C2D0t+M2dYA8Vqbvz83+tHXMSjg6PjU10vq/QxyPMNoM+8A6R2OB8S3+bi9JtuSH/sWpTcZ9pLaIkDIXHqXNReQ4ssZWSBQUmBZKDaAjrMKbBjh/4Q3yco3+RiE3/wtHDmvbwEaAlyJSNKNC+C3x36/xaS+NltjbLGdyjxsfRhDLCl8GEwYRh4Nshc6u754dowklpg5Idrw0gvTIBaGZnltWEkLZwZom6IZ4Pa99uCqZVsJQ84/3wdHwKqZTwJSRq+ZcOD4GoD86+1kHSbJPVvEcSnMshJPAVPgcEYSNgGV89aKQ/BNO3dLBRXp3pRTH2/YFC0spMG07R3szA0k5uZ+yixHdRv0JeF80/XQ0Bzi9U1kRyzxU+fjw6ygJmbEmZEceeQTmDU77d3e1veqtFhLHUyHgrFBbfaoHmyPhS+TAKmE1Y/BPoPgdQOdbKcrM1ydzUo9q5OqrurJ/VrU91dDYqF0EJoIY6C8GJ+4ekXptr7jwXhnh6Fzix2PlVI3JElWXBt7sA9m/4y5+43JCNSnAWWpb2XKVPfkln/EyqhDi7boD4Qr+xnrc9PhQeJx3nHQGcPGNghKqX1bGcttnozFvkocRxvWWz1ZnyhHG2W9t5em6r1HZn1IwEIwgVwWgoW+0QyojxgC7Ng+1THm8Tq5TadESn2LZtU9WJ8u79w9KZBUVvfB729QHni6O1TKRwGMJjYwr2DOMoH+YVF9/g9+SC/pXIcf2PoHcXrAhbpVEjeWd37T7uuow+ygPMeS0akk6pVia7aSjgJLRSNDiNVgKkBnNrIJ+Q1ISfttMph6LVhpKOe1c2tOridbMazvrmfBNcntAdj0GF7BL37YO9qUOz9yM5S03vsXQ3KWya3mthvql/p3R8IiWR0siXpsECxiH5+NZPNoKG/nm5zgUexiAytuskPjy8E4c3WzNJJWBk2qF4QXowD1SDrRTH1fbA41U57OAknkbmeVfKTSvmEHub0bZLgPAqmafdmobg61WA0z57eE0zT7u0drXcfM/d7Ers5D/qycP5AcKTDKFxsSIfFcV3XPV7NXRFx/84FX104dV3XsvqWSWiUo8VQJ7XRtdG10Z+lzq27qyf1oVK0cVQoD4vdnjiJo8X8hDwYYMsmDtaR14aR1AJjUvXKMKrv8dowku8onAfBfI9Xp5eDOeD050EgwyjgnkxYmKfVanV/Nc9rffqUC8+Ce9Vqla2+37I6zPAoONUgXqM9yYQmjuMF+9FJPBjMZ21zf1I8QDLmEvLU7ZhGEQeyx6JYWr2dvsw2TvSHVuIVLQXGs3JQ3lPI6qL74tHmfhhcB2byEy/yR8WezyUbEuMoZEdXJ7Yf3OrFsDyLom7Swc1QJ/UtNz2pdpaaDhZTDYra+vbohmcODirlMyoxT5tjkFLPXYOlnpMpU70YtkxxEqa+dXDrIKxk37K5fAxG8+zpwZ5VB5dtUJ9YXmn9ILh+PSInKY1kg5kmMKpaIJ8ULcBIujZTAzh9S3BY9MowqoejN9XoQE7P3C8YB6O3Xw9yNGI/byUeHgu9+vbWp/9RMe9n1vD9hfWfldTns7+yEn4S0S5z5e9whp+DgoSUEt1S7CdtjMgkpchgJyV2kFHiDmojKSKdiAIZbKWe7IJ8EumgdpIiRDJukmivWyQd1AxF9lLqGZtCgUT5xgA1RI5OSnfoGkMVCEm4PaCmqCd7GU1k3yCqEK9WuQC06ca3mnk2/u0e5Bmmbny/WiopHDtICB0d1HAvwKaWjCj6qWopKhKtHFEFWkjikkkRySSf0N2O0KWDK0TiXGpUvSESrVQUTVcoJF06KRzZbZJoNx0ZocuHE6KQdFd1JPr5LFCM4oxIRFJCKdKO4t0l6BLiDRESvaHKgsXYv1lNpyKSEeNSSoGQhBsAXUbc0Y7WOljdgc6tl1SqEK8a8QXg6ry7cVcHtIrbzie1ef0jLrHs0EVQBlGgcBV04MQ+Pwd+z//+cyco0MGQmet1Zm6e9XCmPhe70g8y9SCYme/5b34uAnAKmIPIqbL6jSi+x0WfcP1nAvda4BQMHddnbvaYOY3/xEVPbMZ/Jx7640Ngbjz0uf2a657WiXwufhCZ9K5F1watkgec/wnwfv8SMC/mdiQi4qScn4qwSUH5Bn1ZOP99Vz7j/VNcopo70+lP87whGZGIRDdVvWWPw03LboaJ/YWnX5hq739b5e2Zh+WfJscP59W4J6JPG41Gl6uuUBiSOHO+hm80Go135URbNgkd1Neman1HZv09Xc1oy++tmQq3eX74XjUisru7u3uhtbCN3d3d3VhErGqdw/nR/NlXacvsy1/kbS9Ryd+iKM0CVh5KRiQicWqsbEeRa1UQqpv0nvaV3v17+l9bfm/NoPzDzP4hUA03R++z+k+OiIi+y3mro32rMvdDId7j5jYO+rJw/k0R5Vt7RstmjmtAtaKCu7HjOEEW5LO+sn282W9aGUp/mANO/7a0rNUztJdQnRcFwT5Xe3eazO1gWKTP2C566SVA5xdEeszqIIqHFSUKaP5c6lrPmfla3fb7zEMdBZUlBefR1j8cMjM3domZh4EOqILmXo3nWg859xMFcxAFXBut+4B066L6vOs29OGQV0GBfuDG04/XdQB9kG0P1EOqRUTXOB/nbYiIxOsqkDsLSJHS3SWgDlzJiCR6ruq58VxVc4WI9HoK/PzC+4sJeegjSSdbkruAGtBERLqruiXSuqMYxUREsq7iMHx57X+Vh0B2aZRuiGTA4gUiIs5IdSjiXFlU8FREJF5HgZ+fn09vHA8zIh1GATuyBvwgCIIjVh8tZwTPZ4FqFATB/ffWUSgAHIa3cpDYjTJ2dFi4kvU0ILcQ5FtzqjjzB2jOjkFIE2lucOa9H9aYBSQXRetSD9QbzoYDsqpgN0rZMcDgtF++5X+FPCQK2PWoMzwYbr300pdOQnsfCjoxJSaT8yush7fyEMmYJtGGOyQD6mzrvff7fw53M8mO8N630Czi7S6M4oUjA+pLMVvtiX++dPC/gqoiscMoYcdYZ4WtiV/hwXAAoCD7UcYdE2yif7504X/1o/Y+Et0o5MTYCEjmInIyCt4Pa5wNd+EYpDSShs8xSSkwzk2RqwAQOYkpMsDoBXZSikzzKyoqZ/gUkXdklEionRTIjYQSmZYYfjf1SzdFImOQTnCkgy4t/FhLvF26KcKOJJ1gI0km6NKCAp0RSbuj0k2BFCncmABdWviBpjAk+aFvh+Bx1GeT+x+BKoA+CLYHoNUuCdJIKPzC9whJp/aYmjbrH4eqQrRaeR00G2+8XO5pa6FwNpuFpNt2sRBPPtOFkXkNdLWI83J5ZzsmCme5IcXbdjkJKyOzJtVCZAg1IJ/EQ+HUStZrw0jaWZqpZk7mQZvQQ3fXm1NPauUcMH5LPnYyfhPJdL+cs78Y03lCIv36yB6r92RlJz0azcxtYZr20aLrSRhM097tteLx7stCeHJb2Lq7lb08id+R9/4tFIYk0z+WcVItIhTOZiGJiF4Mq8U7DK1Mn4UWwt7VeWSm2ntzdzUor62jINTd20W4O3diWplamb8iB45QOJuFJE67fPNGq9VqCYUhnTitVqvVLN5UB9c7ymK/FJw308VWb8ZbJpc6uO1jEb1cXM/yb8h3IqFwNpvNQpJDv2wzarfb7deFSJzjdrv9p/ftUclvSeSXWu8n1UU+yG+qB9XRgzT2SfpN+dPvhcKZMiQ5PCrXKA9zoh7b8dl4i72/5KBvtXc1KOY3BKHu3gz68KJvf0+yYDOSwsTxy2htcL0nOE372QVFDaZp9+ZJuPprbfdloWiCsHXiN+WdluPojBjmhKQdxxmWyx7z5XsMyOOZnaV6bRhJ24AxXrNN6KG6STq4f1F4v9ls/j2mcDYLSY6azSaXx/7qpE7qk539m86ULU/ljvLoP/Bz6xo/w3cP8oq8rD17fBF/W08lX6FJQeNM6pdS/yGC+MfVCnC2gwbhrwzOgVpaEzjTN8lb9cqQLzXYTa1kF9xqg7Y6VT0ZB5PHsQyeTk/WP62PMTGhvBoUf/weMJ/m7VS5uW+n1Hdy9d2+RSXU4NST8sB8ZT8x2HrT05PQtVmqnaXa+vyDp6a0Gu/394B5dFuRstWzUyHUIL7F6E0XWTWzHqgvUJ6YCTPhKxbiJUdvdlRZn93eYB7HkSgdW52c6iqXRofZNDaM9OTaMNJRz2oQD8FpsNntSd/cTxa9kP1LgsuGutWWzfHD+XyIiGyWOsXDoHiTDU5T30cXxdT3weJUB9dDZRjMwvmskp9YgPu11Xt6rVLEt8ivBOVX4uir/v98wtBupgnnUntXB8vHzDrYXT2pD5WiZupRfnBzP3ESTxJkX3gcy9cW82bG933fqizwfX+/GJV+UCgHC8bBDfP35WF70ZbNG9pYM2oMhovscXTgKHEcrwyuo3Fws5+1zX10AvWF8Gb7QdUWz7/V0llQgIi08nVbrcWzbxZjwvUl0sP5G6OoMGd7iZqJ0tRJvFCYmo8W3RePgngIzgNP8hMv8sFND/ZLZuKDarZEu/nORlutVmvxzGaeuhbnuAiJzfhaPPRfmQoz+3tA3WxuNTjtXY3SNusFO0tNB4upLvJDZh21zTMHB5kwU16q7C9Uys2SP8xlmwSRSV/IfasX+aFN6KGuDOdBAOcvynENqJZ74Umuf7NUcjJlqkFx9ewkvHgSjObZ04M9qwannhSPrK+0/lDIumC94qa+Flw3S6st1iYF5SuFqrlfD7svC2HrOzkfTqoX89fk/BKqVfzo+Vx34yZxTWBUNTqczTZhDOLAK8OoHo7eVK8MOXzmfMGAdsOtnuT2SpBfG70J5GaY2F9ZTBfzIQh19xaELrKJoW7aL4kCWs3zX891/n6zfOtKPPyErU9vdvhmmIQO6mvd3FuhBtPJpQ7uST26OF6/JTPL/fW5F7PS/hpg3j9FYX04pAOLT6UYrXM4vxLE3h7Vg/pCMD38/fnXv/7VEKnPn6ESfjoSWaypGEGobtIX7J04CELdvQVxdLPV9m8KV/4ZzvDjee6vFROJti5zPxTiKyekg7b7slBsfScnWSenbeR/UzRuQ73wy7/ONf6uVZXt483+ys30wDahh7oyxIPRYab/Gowflv4yV5/X9LaUZM1V1oowrJjJvih/VxDlU+qNSph83c5RKkSpRxUw33g9t5kFTLWe+n3mWk/Z5AoY0X6hrED3OT49KabIYCMpdkxCCiTUSkrsIKOOyU5SxNsdBATHCLWTFJHcQDhI5K63LmJjKBxJOsmSZATUDDkGMZHQpkRwlK4LUEOMRCelwNgcCgBBsgCgxhhkL6SOqUGykKwaZSR2EJHjDmonI97ugnzgyGArKSIZ0yTacIdkgFrLSBSw66EWM5BcFK1LPaB2M+SrK/+v/L/y/8r/K/+vZA0A)

Với một trong các tùy chọn trên, nhà phát triển có thể dùng giao diện AI Hub để chạy mô hình AI được tối ưu hóa trên các thiết bị Snapdragon X. Sau khi thực thi mô hình trên thiết bị Snapdragon X và thu được kết quả suy luận, nhờ AI Hub, nhà phát triển cũng có thể tải mô hình xuống thiết bị cục bộ để triển khai trong ứng dụng AI.  Nhấp vào [đây](https://github.com/quic/ai-hub-apps/tree/main/apps/windows/cpp/ObjectDetection) để triển khai ứng dụng CLI phát hiện đối tượng mẫu trên nền tảng Snapdragon X.

Khi đã có một mô hình đáp ứng các yêu cầu của mình, bạn có thể:

> 
> 
> 1. Tạo ứng dụng hướng đến hiệu suất bằng Qualcomm^®^[AI Runtime (QNN)](https://docs.qualcomm.com/doc/80-62010-1VI/topic/qnn.html#ai-engine-direct-qnn), hoặc
> 2. Ưu tiên khả năng mở rộng và cho phép cùng một mô hình chạy trên nhiều nền tảng, bao gồm các hệ thống dựa trên x86 và Snapdragon X bằng [ONNX Runtime ORT](https://docs.qualcomm.com/doc/80-62010-1VI/topic/ort.html#ort).

## Thông tin chi tiết

- [Tổng quan về Qualcomm AI Hub](https://app.aihub.qualcomm.com/docs/hub/index.html)
- Môi trường thời gian chạy đích được hỗ trợ để [biên dịch mô hình](https://app.aihub.qualcomm.com/docs/hub/compile_examples.html)
- [Cách chạy Llama-v2-7B-Chat](https://github.com/quic/ai-hub-models/tree/main/qai_hub_models/models/llama_v2_7b_chat)
- [Cách chạy Llama-v3-8B-Chat](https://github.com/quic/ai-hub-models/tree/main/qai_hub_models/models/llama_v3_8b_instruct)

Last Published: Dec 16, 2025

[Previous Topic
Quy trình làm việc của nhà phát triển](https://docs.qualcomm.com/bundle/publicresource/80-62010-1VI/topics/ai-dev-workflow.md) [Next Topic
ONNX Runtime](https://docs.qualcomm.com/bundle/publicresource/80-62010-1VI/topics/ort.md)