AMD Ryzen AI Halo nhắm mục tiêu AI cục bộ với bộ nhớ hợp nhất 128GB, giá 1.500 USD

Trạm làm việc AMD Ryzen AI Halo xử lý 34 token mỗi giây trên các mô hình 120 tỷ tham số với giá khởi điểm 1.500 USD, thách thức sự thống trị của Nvidia trong mảng phần cứng suy luận AI cục bộ.

"Suy luận cục bộ là nơi làn sóng triển khai AI tiếp theo diễn ra và dung lượng bộ nhớ là yếu tố then chốt," một phát ngôn viên của AMD phát biểu trong buổi ra mắt sản phẩm. "Kiến trúc bộ nhớ hợp nhất cho phép các nhà phát triển chạy những mô hình mà nếu không sẽ phải thuê GPU đám mây đắt đỏ."

Hệ thống được trang bị bộ xử lý Ryzen AI Max+ 395 16 nhân với 128GB bộ nhớ hợp nhất LPDDR5X, hỗ trợ các mô hình lên tới 120 tỷ tham số mà không cần kết nối đám mây. Với tốc độ 34 token mỗi giây trên mô hình 120 tỷ tham số, sản phẩm này thua kém DGX Spark của Nvidia khoảng 13% về thông lượng nhưng rẻ hơn 3.000 USD — DGX Spark có giá khởi điểm khoảng 4.500 USD. Chip của AMD sử dụng kiến trúc x64 truyền thống thay vì CPU Grace dựa trên Arm của Nvidia, và chi phí bộ nhớ 25,77 USD mỗi gigabyte thấp hơn mức 41,66 USD mỗi gigabyte của Apple M3 Ultra.

Strix Halo định vị AMD để chiếm lĩnh một phần thị trường suy luận AI cục bộ, một mảng có thể giảm sự phụ thuộc của doanh nghiệp vào các dịch vụ GPU đám mây từ Nvidia và Amazon Web Services. Cổ phiếu AMD đã tăng 18% kể từ đầu năm, giao dịch ở mức 28 lần thu nhập dự phóng, khi công ty mở rộng từ các mảng kinh doanh CPU và GPU truyền thống sang các trạm làm việc AI chuyên dụng.

So sánh phần cứng

Ryzen AI Halo, có tên mã là Strix Halo, không được thiết kế cho chơi game mà để chạy các mô hình ngôn ngữ lớn cục bộ — một quy trình công việc thường yêu cầu các cụm GPU đám mây. Kiến trúc bộ nhớ hợp nhất của AMD loại bỏ nút thắt cổ chai VRAM vốn giới hạn các GPU Nvidia, vốn bị ràng buộc bởi các pool bộ nhớ rời rạc. Đối với các pipeline AI nhiều tác nhân, nơi nhiều mô hình chạy tuần tự, khả năng giữ 128GB tham số trong bộ nhớ mà không cần phân trang sang bộ nhớ chậm hơn mang lại lợi thế thực tế so với các thiết lập GPU thông thường.

Băng thông bộ nhớ vẫn là yếu tố hạn chế. Trong khi AMD quảng cáo băng thông lý thuyết 256 GB/s, thông lượng thực tế đo được chỉ đạt 122 GB/s, so với mức 819 GB/s của Apple M3 Ultra. Khoảng cách này rất quan trọng đối với các tác vụ ngữ cảnh dài như phân tích tài liệu, nơi DGX Spark của Nvidia cho tốc độ prefill nhanh hơn 5 lần. AMD không tiết lộ điều kiện thử nghiệm cho các tuyên bố về token mỗi giây của mình.

Phần mềm vẫn là điểm yếu

Bộ công cụ ROCm của AMD, vốn hỗ trợ khối lượng công việc AI trên phần cứng của hãng, vẫn đang trong giai đoạn xem trước và thiếu khả năng tương thích với Windows. Ngược lại, môi trường CUDA của Nvidia đã ăn sâu vào quy trình phát triển AI, với hầu hết các mô hình và framework mã nguồn mở được tối ưu hóa cho nó đầu tiên. AMD đang dựa vào Vulkan như một giải pháp tạm thời, nhưng khoảng cách phần mềm này hạn chế thị trường mục tiêu của Strix Halo chỉ còn các nhà phát triển sử dụng Linux, những người sẵn sàng khai thác một chuỗi công cụ kém hoàn thiện hơn.

Chip Ryzen AI Max+ 395 được sản xuất trên các tiến trình 4nm và 5nm của TSMC, cùng một xưởng đúc sản xuất chip H100 của Nvidia và dòng Instinct MI300 của AMD. Máy tính mini được lắp ráp bởi các đối tác OEM của AMD, với khả năng phân phối ban đầu thông qua Micro Center tại Mỹ. AMD chưa tiết lộ sản lượng sản xuất hoặc liệu chip có gặp phải bất kỳ hạn chế nào về đóng gói từ một nguồn cung duy nhất hay không.

Kế hoạch tiếp theo

AMD dự kiến phát hành chip thế hệ tiếp theo Gorgon Halo vào quý III năm 2026, với 192GB bộ nhớ hợp nhất và hỗ trợ các mô hình lên tới 300 tỷ tham số. Điều đó sẽ đưa khả năng suy luận cục bộ đến gần hơn với các mô hình tiên tiến hiện đang yêu cầu cấu hình nhiều GPU máy chủ. Nvidia và Qualcomm cũng dự kiến ra mắt các sản phẩm cạnh tranh trong cùng khung thời gian, làm gia tăng cuộc đua giành thị trường phần cứng AI cục bộ.

Việc AMD thâm nhập vào mảng trạm làm việc AI cục bộ mở ra một nguồn doanh thu mới ngoài các mảng kinh doanh CPU và GPU cốt lõi, nhưng tác động tài chính trong ngắn hạn có thể khiêm tốn. Mức giá khởi điểm 1.500 USD nhắm vào các nhà phát triển và nhà nghiên cứu AI — một phân khúc hẹp nhưng đang phát triển nhanh chóng. Nếu AMD có thể thu hẹp khoảng cách phần mềm và hiện thực hóa lời hứa 192GB của Gorgon Halo, hãng có thể chiếm được thị phần đáng kể trong thị trường suy luận AI doanh nghiệp, mà IDC dự báo sẽ đạt 52 tỷ USD vào năm 2028. Hiện tại, hào CUDA và lợi thế băng thông bộ nhớ của Nvidia vẫn giữ vững vị thế dẫn đầu của gã khổng lồ này.

Bài viết này chỉ mang tính chất tham khảo và không cấu thành lời khuyên đầu tư.