AMD dùng AI giúp server Epyc chạy với một nửa DRAM

AMD vừa công bố phần mềm Mext, công nghệ dùng mô hình AI để dự đoán trang bộ nhớ (memory page) nào sắp được dùng, từ đó đẩy dữ liệu ít truy cập sang ổ flash NVMe rẻ hơn trước khi hệ điều hành hay ứng dụng kịp nhận ra. Theo AMD, cách này cho phép server Epyc đạt tới 99% hiệu năng so với cấu hình DRAM đầy đủ, dù thay một nửa dung lượng bộ nhớ bằng ổ flash.

Điều này có ý nghĩa lớn vì bộ nhớ là khoản chi phí áp đảo trong một server: theo Gary Smerdon — cựu CEO Mext, nay là CVP phát triển kinh doanh của AMD — với các hệ thống bộ nhớ lớn, chi phí bộ nhớ có thể chiếm 60, 70, thậm chí 80–90% giá thành server. Ông ước tính khách hàng đã tiết kiệm được 5 triệu USD chi phí DRAM trên 145 hệ thống đầu tiên triển khai phần mềm này.

Ý tưởng: đẩy trang "nguội" sang flash

Smerdon dẫn một nghiên cứu của Meta cho thấy 50–80% số trang bộ nhớ không được động tới trong 5, 10 phút hoặc lâu hơn, kể cả ở hệ thống có tỷ lệ sử dụng bộ nhớ cao. "Năm phút với Epyc là một khoảng thời gian vô cùng dài," ông nói.

Mext tận dụng đặc điểm này: các trang ít truy cập được chuyển sang flash, loại bộ nhớ rẻ hơn khoảng 50 lần mỗi bit và tiêu thụ điện năng thấp hơn 30 lần mỗi bit, nhưng chậm hơn DRAM tới 500 lần. Chính vì tốc độ chênh lệch lớn như vậy nên các hệ thống thông thường tránh việc hoán đổi ra đĩa (swap), vì nó làm sụt hiệu năng ứng dụng.

Điểm mấu chốt là chữ "R" trong DRAM — viết tắt của random (truy cập ngẫu nhiên) — khiến việc dự đoán trang nào cần lúc nào không hề đơn giản. Giải pháp của AMD là dùng AI: "Chúng tôi nhận ra có thể dùng AI để giám sát hệ thống và chủ động đẩy các trang đó trở lại DRAM, để với ứng dụng và hệ điều hành, chúng dường như luôn ở đó," Smerdon giải thích. Nói cách khác, phần mềm "làm cho flash hiện ra như DRAM" một cách trong suốt.

Mô hình transformer dự đoán trang bộ nhớ

Mext sử dụng nhiều thuật toán học máy (machine learning). "Mô hình chủ lực là một dạng phái sinh của transformer, giống ChatGPT hay Claude hay các mô hình nổi tiếng khác, nhưng thay vì dự đoán từ tiếp theo trong văn bản, chúng tôi dự đoán trang bộ nhớ nào sẽ cần tiếp theo," Smerdon cho biết. Miễn là các trang đã nằm trong DRAM trước khi bị cần tới, thứ tự của chúng không quan trọng.

Việc huấn luyện trước (pre-training) các mô hình này bị coi là không thực tế. Thay vào đó, Mext dùng một lõi (core) Epyc để huấn luyện mô hình trong chưa đầy một giây, rồi tinh chỉnh và huấn luyện lại liên tục theo thời gian. Toàn bộ quá trình huấn luyện diễn ra trên CPU, không cần GPU, nghĩa là gần như mọi khách hàng Epyc đều có thể dùng phần mềm này.

Một lưu ý: trong môi trường ảo hóa, phần mềm yêu cầu một lõi cho mỗi máy ảo (VM) hoặc VPC, nên chi phí tài nguyên tăng theo mức độ ảo hóa. Môi trường container được cho là không gặp hạn chế này.

Hiệu năng thực tế

AMD thừa nhận vẫn có mức sụt hiệu năng tùy ứng dụng và lượng bộ nhớ được đẩy sang flash. Trong thử nghiệm với bộ công cụ EDA PrimeTime của Synopsys:

• Đẩy một nửa bộ nhớ sang flash: vẫn đạt 95% hiệu năng so với chỉ dùng DRAM.
• Chỉ còn 25% DRAM và 75% flash: hiệu năng giảm còn 80% so với mức nền.

Ở các tình huống khác như Apache Spark, nhóm Mext cho biết vẫn đạt 99% hiệu năng ngay cả khi đã thay một nửa DRAM bằng flash. Ban đầu AMD nhắm tới các ứng dụng ngốn bộ nhớ như tự động hóa thiết kế điện tử (EDA) và sáng tạo nội dung, sau đó mở rộng sang các ứng dụng nhạy cảm độ trễ như cơ sở dữ liệu và các pipeline agentic AI.

Lộ trình và cách mua

AMD mua lại công nghệ này từ Mext hồi tháng 6. Phần mềm sẽ độc quyền cho phần cứng AMD và được bán dưới dạng giấy phép (license) thông qua các đối tác OEM. Hệ thống chạy Linux chỉ cần một kernel driver; bên cạnh đó là ứng dụng RAM View giúp doanh nghiệp xác định hệ thống và khối lượng công việc nào nên bật tính năng này.

Hiện AMD đang ở giai đoạn đầu triển khai: phối hợp với các OEM như HPE để đảm bảo hệ thống "Mext ready". Giai đoạn hai là bắt đầu bán giấy phép và xuất xưởng nền tảng Epyc cài sẵn RAM View.

Góc nhìn

Với các doanh nghiệp vận hành hạ tầng tại Việt Nam, tín hiệu đáng chú ý là chi phí bộ nhớ đang trở thành biến số lớn hơn cả chi phí CPU trong bài toán tối ưu server. Khi DRAM khan hiếm do làn sóng xây dựng trung tâm dữ liệu AI, những giải pháp "đổi một chút hiệu năng lấy nhiều tiền bộ nhớ" như Mext sẽ hấp dẫn với các hệ thống chạy tải nặng như EDA, dựng hình, hay các cụm dữ liệu lớn. Tuy vậy, vì đây là phần mềm độc quyền phần cứng AMD và bán theo giấy phép qua OEM, các đội hạ tầng nên tính toán kỹ tổng chi phí sở hữu thay vì chỉ so giá DRAM, đồng thời cân nhắc mức sụt hiệu năng thực tế trên chính khối lượng công việc của mình trước khi áp dụng đại trà.