AMD Threadripper Halo: Trạm làm việc AI cục bộ đắt đỏ dành cho nhà nghiên cứu

AMD vừa trình làng Threadripper Halo, một trạm làm việc AI cục bộ (local AI workstation) được thiết kế dành riêng cho các nhà nghiên cứu có ngân sách dồi dào. Sản phẩm hứa hẹn mang đến hiệu năng vượt trội với tối đa 576 GB bộ nhớ HBM3e và băng thông lên tới 16 TB/s, đủ sức chạy các mô hình AI tham số lớn ngay trên bàn làm việc.

Thông số kỹ thuật đáng chú ý

Được công bố tại sự kiện IFA 2026 và dự kiến ra mắt vào năm sau, Threadripper Halo đánh dấu lần đầu tiên AMD trang bị các bộ tăng tốc Instinct cho một trạm làm việc (workstation). Trái tim của hệ thống là bộ xử lý 96 nhân Threadripper PRO 9995WX, hỗ trợ lên tới 2 TB RAM DDR5 và tổng dung lượng bộ nhớ hệ thống kết hợp lên tới 2,6 TB.

Điểm nhấn của máy là khả năng tích hợp tối đa 4 card đồ họa Instinct MI350P – vốn được phát hành vào tháng 5 vừa qua. Mỗi card này sở hữu 144 GB bộ nhớ HBM3e với băng thông 4 TB/s, và có thể đạt tới 4,6 petaFLOPS sức mạnh tính toán FP4. Tuy nhiên, khi lắp trong Threadripper Halo, các card này sẽ hoạt động ở mức công suất thấp hơn, khoảng 450W thay vì mức tối đa 600W.

Khả năng chạy mô hình AI khổng lồ

Với cấu hình tối đa, hệ thống cung cấp tổng cộng 576 GB bộ nhớ HBM3e và băng thông lên tới 16 TB/s. Điều này cho phép Threadripper Halo chạy các mô hình có kích thước vượt quá một nghìn tỷ tham số (ở độ chính xác 4-bit) hoàn toàn trong bộ nhớ GPU. Nếu tận dụng thêm bộ nhớ hệ thống, máy có thể xử lý các mô hình mã nguồn mở lớn nhất hiện nay như Kimi K3 với 2,8 nghìn tỷ tham số của Moonshot.AI.

AMD tự tin rằng hệ thống này cung cấp tổng bộ nhớ gấp 3,4 lần và băng thông bộ nhớ gấp hơn 2 lần so với NVIDIA DGX Station.

Đối đầu trực tiếp với NVIDIA

Về giá cả, AMD chưa công bố con số chính thức, nhưng giới phân tích dự đoán hệ thống sẽ có giá từ 100.000 đến 150.000 USD tùy cấu hình. Mức giá này đưa Threadripper Halo vào phân khúc cạnh tranh trực tiếp với DGX Station của NVIDIA – một sản phẩm có GPU B300 252 GB, CPU Grace 72 nhân và 496 GB bộ nhớ LPDDR5x, được bán lẻ với giá khoảng 100.000 USD.

Tuy nhiên, một vấn đề tiềm ẩn là nguồn điện. Một hệ thống với 4 card MI350P ở mức 450W sẽ tiêu thụ điện rất lớn, gây áp lực lên hệ thống điện dân dụng tiêu chuẩn (ở Bắc Mỹ thường là 120V/15A). Điều này có thể lý giải vì sao các mẫu trưng bày tại IFA chỉ có 2 card GPU được lắp đặt.

Threadripper Halo dự kiến sẽ chính thức được bán ra từ đầu năm sau. Đây thực sự là một lựa chọn hấp dẫn, nhưng không dành cho tất cả mọi người, với mức giá và yêu cầu về hạ tầng điện khắt khe.