Những điểm chính:
Qualcomm đang đặt cược rằng danh mục sản phẩm từ chip đến trung tâm dữ liệu của mình có thể trở thành xương sống cho AI nguồn mở, kết nối 16 triệu nhà phát triển của Hugging Face vào một hệ thống tính toán thống nhất trải dài từ điện thoại thông minh đến giá đỡ máy chủ.
Qualcomm Technologies và Hugging Face đã mở rộng quan hệ đối tác để cho phép các nhà phát triển triển khai mô hình AI mở trên cả thiết bị và trung tâm dữ liệu, hợp nhất danh mục chip của Qualcomm với cộng đồng 16 triệu nhà phát triển của Hugging Face. Sự hợp tác được công bố vào ngày 24 tháng 6, nhắm tới một kỷ nguyên mới của AI tác tử và suy luận lai ở quy mô lớn.
"Sự cam kết này đại diện cho một bước tiến lớn trong việc làm cho AI tiên tiến trở nên cởi mở hơn, có khả năng mở rộng và dễ tiếp cận hơn," ông Cristiano Amon, Chủ tịch kiêm CEO của Qualcomm Incorporated cho biết. "Bằng cách kết hợp vị thế dẫn đầu của Qualcomm trong lĩnh vực điện toán hiệu năng cao, năng lượng thấp với cộng đồng nhà phát triển năng động của Hugging Face, chúng tôi đang tạo ra một thế hệ ứng dụng AI mới vận hành liền mạch giữa thiết bị và đám mây."
Sự hợp tác dựa trên ba trụ cột: chuyển khối lượng lưu trữ và suy luận của Hugging Face lên các giải pháp trung tâm dữ liệu Dragonfly của Qualcomm, tự động hóa việc tích hợp mô hình trên các nền tảng Snapdragon, Dragonwing và Dragonfly của Qualcomm, và xây dựng một Tác tử Hugging Face cho việc điều phối AI lai. Hugging Face hiện lưu trữ hơn 3 triệu mô hình mở trên mọi lĩnh vực và dạng thức. Theo các công ty, tác tử này sẽ xử lý việc thiết lập, tối ưu hóa và triển khai mà không cần bất kỳ công việc tích hợp thủ công nào.
Thỏa thuận định vị Qualcomm để nắm bắt khối lượng công việc AI ở cả hai đầu của phổ tính toán — từ một chiếc điện thoại thông minh đến một giá đỡ trung tâm dữ liệu — thách thức sự thống trị của Nvidia trong mảng hạ tầng suy luận. Nvidia kiểm soát khoảng 80% thị trường tăng tốc AI, nhưng lợi thế của Qualcomm nằm ở tính phổ biến: chip Snapdragon của hãng cung cấp năng lượng cho hàng trăm triệu điện thoại thông minh, trong khi Dragonfly nhắm đến trung tâm dữ liệu. OpenAI và Broadcom trong tuần này đã công bố chip suy luận tùy chỉnh của riêng mình, Jalapeño, khi ngành công nghiệp đang tìm kiếm các giải pháp thay thế cho GPU của Nvidia.
"Thế giới ngày càng vận hành trên các mô hình mở và cục bộ vì chúng có giá phải chăng hơn các API lớn và được thiết kế riêng tư," ông Clément Delangue, Đồng sáng lập kiêm CEO của Hugging Face cho biết. "Cùng với Qualcomm Technologies, sử dụng phần mềm và công cụ Modular, chúng tôi đang giúp 16 triệu nhà phát triển của mình dễ dàng chạy các mô hình mở ở mọi nơi, từ thiết bị trong tay bạn đến một giá đỡ đầy đủ trong trung tâm dữ liệu, với các tác tử hoạt động trên toàn bộ chuỗi tính toán."
Trụ cột đầu tiên kết nối các dịch vụ lưu trữ và suy luận của Hugging Face với các sản phẩm trung tâm dữ liệu Qualcomm Dragonfly, tạo ra một con đường trực tiếp từ thử nghiệm mô hình đến triển khai sản xuất. Trụ cột thứ hai tự động hóa việc tích hợp mô hình AI trên các nền tảng Qualcomm — điện thoại thông minh, PC, thiết bị đeo, hệ thống công nghiệp và ô tô — bằng một quy trình làm việc duy nhất. Hugging Face cũng sẽ cung cấp đăng ký PRO cho khách hàng nền tảng Qualcomm, cung cấp khả năng lưu trữ và tính toán cao cấp để xây dựng với các mô hình mở.
Trụ cột thứ ba cho phép AI tác tử phân tán, nơi các tác tử thông minh điều phối linh hoạt các mô hình và quy trình làm việc trên cả hệ thống thiết bị và đám mây dựa trên nhu cầu về hiệu suất, chi phí, quyền riêng tư và độ trễ. Các nhà phát triển sẽ truy cập vào các thành phần phần mềm AI của Modular thông qua nền tảng Hugging Face.
Đối với Qualcomm, quan hệ đối tác này làm sâu sắc thêm nỗ lực vượt ra ngoài chip di động để tiến vào hạ tầng AI — một thị trường mà Gartner dự báo sẽ đạt 297 tỷ USD vào năm 2027. Cổ phiếu Qualcomm giao dịch ở mức khoảng 18 lần thu nhập dự phóng, thấp hơn mức 35 lần của Nvidia, phản ánh sự hoài nghi của thị trường về tham vọng trung tâm dữ liệu của hãng. Thỏa thuận này có thể thu hẹp khoảng cách đó nếu Dragonfly đạt được đà tăng trưởng từ cơ sở nhà phát triển của Hugging Face.
Bài viết này chỉ mang tính chất tham khảo và không cấu thành lời khuyên đầu tư.
