Qualcomm AI Hub mở rộng sang ứng dụng AI trên các dòng PC trang bị Snapdragon

Tại sự kiện Microsoft Build 2024, Qualcomm Technologies, Inc. đã công bố việc mở rộng Trung tâm Trí tuệ Nhân tạo Qualcomm® AI Hub nhằm hỗ trợ Nền tảng Snapdragon® X Series. Điều này giúp rút ngắn thời gian đưa sản phẩm ra thị trường cho các nhà phát triển và kích hoạt những lợi ích của AI tạo sinh trên thiết bị cho các dòng PC Windows thuộc thế hệ tiếp theo. Bên cạnh đó, các nhà phát triển giờ đây có thể tạo ra các mô hình AI của riêng họ và tối ưu hóa chúng để hoạt động trực tiếp một cách mượt mà, dễ dàng trên thiết bị. Khả năng chạy các mô hình AI trên thiết bị mang lại những lợi thế đáng kể, bao gồm phản hồi nhanh hơn, quyền riêng tư được tăng cường, độ tin cậy được cải thiện và mang đến trải nghiệm được cá nhân hóa hơn cho người dùng.

Qualcomm AI Hub là cổng thông tin dành cho các nhà phát triển, cung cấp tài nguyên, công cụ và dịch vụ, cho phép đạt được hiệu năng AI vượt trội trên thiết bị, đi kèm một thư viện đang liên tục  phát triển với hơn 100 mô hình AI được tiền tối ưu hóa  và sẽ có thể sử dụng ngay trên Hugging Face và GitHub. Bên cạnh đó, Qualcomm AI Hub hiện cho phép các nhà phát triển “Xây dựng Mô hình của riêng mình” (Bring Your Own Model – BYOM) – với tính năng đăng tải, tối ưu hóa và biên dịch các mô hình này để chạy hiệu quả trên các nền tảng Snapdragon và Qualcomm® – trong đó bao gồm hỗ trợ tất cả các khung chính như PyTorch, TensorFlow và ONNX. Chỉ với vài dòng code và trong chưa đầy năm phút, các nhà phát triển có thể dễ dàng kiểm chứng  và xác thực các mô hình trên các thiết bị lưu trữ đám mây. Bằng cách đơn giản hóa quá trình tối ưu hóa và xác minh mô hình, các nhà phát triển có thể tiết kiệm đáng kể thời gian và công sức, đẩy nhanh chu kỳ phát triển  tạo điều kiện cho vòng đời triển khai các bước lặp lại nhằm phát triển, cải tiến sản phẩm được rút ngắn.

Các nhà sản xuất thiết bị gốc (OEMs) cho PC hàng đầu toàn cầu, bao gồm Acer, ASUS, Dell, HP, Lenovo, Samsung và OEM7, dự kiến sẽ ra mắt các sản phẩm PC được trang bị Nền tảng Điện toán Snapdragon X Elite và/hoặc X Plus, cho phép các nhà phát triển sử dụng Qualcomm AI Hub để mang lại trải nghiệm vượt trội cho thế hệ thiết bị mới này.

Nền tảng Snapdragon X Series hỗ trợ nhiều công cụ phát triển AI. Nhờ tích hợp sâu với ONNX Runtime và Hugging Face Optimum, cũng như hỗ trợ Llama.cpp, giờ đây các nhà phát triển có thể chạy hàng nghìn mô hình trên Nền tảng Snapdragon X Series và xây dựng các ứng dụng Windows phong phú hỗ trợ bởi AI. Các nhà phát triển cũng có thể tìm hiểu về AI trên thiết bị và cách triển khai công nghệ này cho ứng dụng của mình trong khóa học trực tuyến do DeepLearning.AI hợp tác với Qualcomm Technologies cung cấp.