AMD khẳng định trạm làm việc AI Ryzen AI Halo giá 4.000 USD gần như "tự hoàn vốn"

AMD vừa công bố câu trả lời của mình dành cho dòng trạm làm việc AI DGX Spark của Nvidia với mã tên Ryzen AI Halo. Sản phẩm này sẽ được mở cho đặt trước vào tháng tới với mức giá 3.999 USD.

Mặc dù nghe có vẻ đắt đỏ đối với một chiếc PC mini AI, nhưng AMD lập luận rằng so với chi phí sử dụng các API đám mây, thiết bị này gần như có thể tự "hoàn vốn". "Ngôi nhà của Zen" cho rằng nếu bạn dành 8 tiếng mỗi ngày để "vibe coding" (lập trình hỗ trợ bởi AI), hệ thống này có thể giúp bạn tiết kiệm tới 750 USD mỗi tháng.

Tổng quan về hệ thống phát triển Ryzen AI Halo giá 4.000 USD của AMD

Một chiếc hộp nhỏ đầy sức mạnh

Ryzen AI Halo là một hệ thống nhỏ gọn với kích thước chỉ 5,9 x 5,9 x 1,7 inch (khoảng 150 x 150 x 43 mm). Máy được trang bị APU Ryzen AI Max+ 395 (mã danh Strix Halo) với công suất thiết kế 120W.

Điểm nhấn của cấu hình này là bộ nhớ trong LPDDR5x 8000 MT/s dung lượng lên tới 128 GB. Dung lượng này phục vụ cho cả 16 nhân xử lý Zen 5 và 40 đơn vị tính toán (CU) GPU RDNA 3.5, cung cấp băng thông lên tới 256 GB/s — cao hơn cả hệ thống Ryzen 9000 Threadripper (phiên bản non-Pro).

Đối với những người đam mê AI cục bộ, cấu hình này đủ sức để chạy các mô hình có kích thước lên tới 200 tỷ tham số ở độ chính xác 4-bit, tương đương với đối thủ DGX Spark đắt tiền hơn.

Lực lượng tính toán chính của Ryzen AI Halo đến từ đồ họa tích hợp, có khả năng cung cấp khoảng 56 teraFLOPS ở độ chính xác 16-bit. Mặc dù ấn tượng đối với đồ họa tích hợp, con số này vẫn chậm hơn từ 55% đến 88% so với quảng cáo của DGX Spark.

So sánh với Nvidia DGX Spark

So sánh AMD Strix Halo và Nvidia DGX Spark

Không giống như APU GB10 dựa trên Blackwell của Spark, Strix Halo không hỗ trợ các kiểu dữ liệu FP8 hoặc FP4 ở phần cứng. Tuy nhiên, sự chênh lệch về hiệu suất này không nhất thiết rõ ràng trong mọi khối lượng công việc. Thực tế, AMD khẳng định AI Halo tạo ra token nhanh hơn Spark từ 4% đến 14% trong suy luận LLM.

Tốc độ tạo token của GPU phần lớn phụ thuộc vào băng thông bộ nhớ hiệu quả, không phải là hiệu suất dấu phẩy động. Trong khi đó, sức mạnh tính toán của GPU ảnh hưởng lớn hơn đến thời gian xử lý prompt. Trong các bài kiểm tra, các tensor core mạnh mẽ hơn của Spark đã giúp nó dẫn đầu 2-3 lần về tốc độ xử lý prompt.

Tuy nhiên, Ryzen AI Halo có hai điểm mạnh mà Spark không có. Đầu tiên là NPU dựa trên kiến trúc XDNA 2 với hiệu suất 50 TOPS. Thứ hai, đây là một chiếc hộp x86 tiêu chuẩn, cho phép chạy Windows hoặc bản phân phối Linux yêu thích của bạn. Trong khi đó, Spark bị giới hạn ở phiên bản Ubuntu 24.04 tùy chỉnh nhẹ.

Về mạng, AMD đi sau một bước so với đối thủ. Trong khi Spark có NIC ConnectX-7 200 Gbps cho phép kết nối cụm (clustering), AI Halo chỉ có NIC 10 Gbps duy nhất.

Môi trường phát triển tối ưu

Giá trị cốt lõi của Ryzen AI Halo nằm ở việc它是 phần cứng đã được xác thực với các "playbook" (kịch bản cấu hình) được ghi chép kỹ lưỡng cho các trường hợp sử dụng phổ biến. Việc tìm kiếm sự kết hợp đúng đắn giữa trình điều khiển thiết bị, ROCm, HIP, CUDA, PyTorch, v.v. luôn là cơn ác mộng với các nhà phát triển AI/ML.

Tổng quan cấp cao về bộ vi xử lý Ryzen AI Max 400-series của AMD

AMD cho biết tại thời điểm ra mắt, Ryzen AI Halo sẽ được cài đặt sẵn 5 playbook, với 10 playbook khác có sẵn trực tuyến và thêm nhiều playbook khác sẽ được cập nhật hàng tháng. Ngoài ra, khách hàng sẽ được truy cập vào chương trình nhà phát triển của AMD, tín dụng đám mây và các playbook độc quyền.

Phiên bản bộ nhớ cao hơn sắp ra mắt

Phiên bản Ryzen AI Halo 128 GB sẽ có sẵn để đặt trước vào tháng tới với giá khởi điểm 3.999 USD. Tuy nhiên, nếu dung lượng đó chưa đủ, AMD đang chuẩn bị một phiên bản cao cấp hơn với 192 GB bộ nhớ trên bo mạch.

Hệ thống này sẽ có APU Ryzen mới là AI Max+ 495, thuộc dòng 400-series của AMD với một số cải tiến nhẹ về xung nhịp CPU, GPU và NPU. Với 192 GB bộ nhớ thống nhất, người dùng sẽ có cơ hội chạy các mô hình lớn hơn và mạnh mẽ hơn.