AMD ra mắt Ryzen AI Halo: Trạm làm việc AI giá 4.000 USD tự hoàn vốn nhờ tiết kiệm chi phí đám mây

AMD vừa tung ra câu trả lời dành cho Nvidia DGX Spark với chiếc trạm làm việc AI mini mới mang tên Ryzen AI Halo. Sản phẩm sẽ mở bán đặt trước vào tháng tới với mức giá 3.999 USD. Mặc dù nghe có vẻ đắt đỏ cho một chiếc PC mini, nhưng AMD lập luận rằng so với chi phí sử dụng các API đám mây, thiết bị này về cơ bản có thể "tự hoàn vốn".

Theo AMD, nếu bạn dành 8 tiếng mỗi ngày để "vibe coding" (lập trình hỗ trợ bởi AI), hệ thống này có thể giúp bạn tiết kiệm tới 750 USD mỗi tháng bằng cách chạy các mô hình cục bộ thay vì trả tiền cho dịch vụ đám mây.

Tổng quan về bộ vi xử lý Ryzen AI Max 400-series của AMD

Thông số kỹ thuật ấn tượng trong kích thước nhỏ gọn

Ryzen AI Halo có kích thước rất nhỏ gọn, chỉ 5,9 x 5,9 x 1,7 inch (khoảng 150 x 150 x 43 mm). Trái tim của hệ thống là bộ vi xử lý APU Ryzen AI Max+ 395 (mã danh Strix Halo) với công suất 120W.

Chip này được hỗ trợ bởi 128 GB bộ nhớ LPDDR5x tốc độ 8000 MT/s, cung cấp băng thông lên tới 256 GB/s — cao hơn cả hệ thống Ryzen 9000 Threadripper (phiên bản non-Pro). Bộ nhớ thống nhất này phục vụ cho cả 16 nhân CPU Zen 5 và 40 đơn vị tính toán GPU RDNA 3.5.

Đối với những người đam mê AI cục bộ, cấu hình này đủ sức chạy các mô hình có kích thước lên tới 200 tỷ tham số ở độ chính xác 4-bit, tương đương với đối thủ DGX Spark đắt tiền hơn.

Hiệu năng và so sánh với Nvidia DGX Spark

Phần lớn sức mạnh tính toán của Ryzen AI Halo đến từ đồ họa tích hợp, có khả năng cung cấp khoảng 56 teraFLOPS ở độ chính xác 16-bit. Mặc dù ấn tượng đối với đồ họa tích hợp, con số này vẫn chậm hơn từ 55% đến 88% so với quảng cáo của DGX Spark.

Tuy nhiên, sự chênh lệch về hiệu năng thô không nhất thiết thể hiện rõ trong mọi khối lượng công việc. AMD khẳng định rằng trong suy luận LLM (Large Language Model), AI Halo tạo token nhanh hơn Spark từ 4% đến 14%.

Một điểm mạnh khác của AMD là sự hiện diện của đơn vị xử lý thần kinh (NPU) dựa trên kiến trúc XDNA 2, được AMD đánh giá ở mức 50 TOPS. Nhiều ứng dụng tạo nội dung hiện nay đã được cập nhật để tận dụng NPU này.

Tổng quan về bộ vi xử lý Ryzen AI Max 400-series của AMD

Linh hoạt hệ điều hành và phần mềm

Ryzen AI Halo có lợi thế lớn là một chiếc máy tính x86 chuẩn. Bạn có thể chạy Windows hoặc bản phân phối Linux yêu thích của mình. Trên đối thủ Spark, người dùng bị giới hạn ở phiên bản Ubuntu 24.04 tùy chỉnh nhẹ. Điều này đặc biệt có lợi cho các nhà phát triển xây dựng cho hệ sinh thái AI PC được NPU tăng tốc của Microsoft.

Về mạng, Ryzen AI Halo chỉ được trang bị một card mạng 10 Gbps, kém xa đặc điểm nổi bật của Nvidia là card NIC ConnectX-7 200 Gbps cho phép kết nối cụm (clustering).

Môi trường phát triển "đóng hộp"

Giá trị cốt lõi của Ryzen AI Halo nằm ở việc là phần cứng đã được xác thực với các "playbook" (hướng dẫn sử dụng) được ghi chép kỹ lưỡng cho các trường hợp sử dụng phổ biến. Điều này giúp các nhà phát triển không mất thời gian gỡ rối các phụ thuộc phần mềm không khớp.

Khi ra mắt, AMD cho biết Ryzen AI Halo sẽ được cài đặt sẵn 5 playbook, với 10 playbook khác có sẵn trực tuyến và thêm nhiều playbook khác mỗi tháng. Khách hàng cũng sẽ được truy cập vào chương trình nhà phát triển của AMD, tín dụng đám mây và các playbook độc quyền.

Phiên bản bộ nhớ cao hơn sắp ra mắt

Phiên bản 128 GB của Ryzen AI Halo sẽ có sẵn để đặt trước vào tháng tới với giá khởi điểm 3.999 USD. Tuy nhiên, AMD đang chuẩn bị một phiên bản dung lượng cao hơn với 192 GB bộ nhớ trên bo mạch.

Hệ thống này sẽ có bộ vi xử lý APU Ryzen mới là AI Max+ 495, mang lại mức xung nhịp tăng nhẹ cho CPU, GPU và NPU. Với 192 GB bộ nhớ thống nhất, người dùng sẽ có cơ hội chạy các mô hình lớn hơn và mạnh mẽ hơn.