Nvidia DGX Spark: firmware mã hóa khiến Linux chậm 5 lần

Laptop trang bị nền tảng RTX Spark của Nvidia vẫn cài được Linux, nhưng hiệu năng AI bị kéo giảm nghiêm trọng: GPU chỉ chạy khoảng 780 MHz khi cắm điện, so với khoảng 2,2 GHz trên Windows. Hệ quả là tốc độ suy luận (inference) rơi từ 65,4 xuống 13,9 token/giây trên cùng một mẫu thử.

Điểm mấu chốt nằm ở một thành phần firmware chỉ dành cho Windows mang tên Nvidia Platform Controllers and Framework – bộ phận điều phối ngân sách điện năng giữa CPU và GPU. Bảng thông số công suất mà firmware này sử dụng được mã hóa, và hiện chỉ driver Windows có khóa giải mã.

Linux chạy được, nhưng không đúng nghĩa

Laptop RTX Spark chạy Linux với GPU bị giới hạn xung nhịp

Trên mẫu MSI Prestige N16 Flip AI Plus, việc cài Linux ban đầu khá gian nan. Bản thử với Omarchy (một bản phân phối Linux gốc Arch) thất bại vì bản này đã hỗ trợ chip trên phần cứng Asus và Dell nhưng lại xử lý khác với MSI Prestige, gây màn hình nhấp nháy và không ổn định khi khởi động.

Chuyển sang Debian thì ổn định hơn nhưng vẫn phải xử lý thủ công: trình cài đặt không nhận Wi-Fi nên phải dùng adapter Ethernet USB, và kernel mặc định không nhận bàn phím, touchpad lẫn GPU. Quay lại Omarchy giải quyết được vấn đề driver vì kernel của bản này đã đóng gói sẵn driver mã nguồn mở của Nvidia.

Một vấn đề riêng là bộ nhớ hợp nhất. Máy mặc định dành tới 96 GB trong tổng 128 GB cho GPU, và chỉ Windows mới có tùy chọn thay đổi tỷ lệ này. Khi hạ mức dành cho GPU trên Windows xuống 4 GB, Linux nhìn thấy 120 GB. Sau đó máy chạy được desktop đầy đủ ở 4K 120Hz, âm thanh, touchpad, bàn phím và tăng tốc CUDA đều hoạt động.

Khoảng cách hiệu năng quá lớn

Kết quả đo trên mô hình GPT-OSS-120B cho thấy sự chênh lệch rõ rệt:

• Windows: 65,4 token/giây
• WSL (Windows Subsystem for Linux): 65,1 token/giây
• Máy để bàn DGX Spark chạy bản Linux chính thức của Nvidia: 61 token/giây
• Linux cài trực tiếp trên laptop: 13,9 token/giây

Với vLLM chạy 8 client đồng thời, WSL đạt 127 token/giây còn Linux bản địa chỉ đạt 39,5 token/giây. Một bài benchmark dài cho thấy Windows hoàn thành trong khoảng 8 phút với GPU giữ gần 2,2 GHz, trong khi Linux mất 37 phút với GPU loanh quanh 790 MHz.

Nhiệt độ luôn ở mức thấp, từ 40 đến 47°C, nên đây không phải hiện tượng giảm xung do nhiệt (thermal throttling). GPU đơn giản là không được phép chạy hết tốc lực.

Điều bất thường là vấn đề đảo chiều tùy nguồn điện. Khi chạy pin, Linux đạt khoảng 61 đến 67 token/giây trên LM Studio, tương đương Windows. Khi cắm sạc, cùng phép thử đó tụt xuống khoảng 15 token/giây, xung nhịp giảm từ khoảng 1.800 MHz xuống còn khoảng 780 MHz.

Sơ đồ chênh lệch hiệu năng giữa Windows, WSL và Linux trên laptop RTX Spark

Thủ phạm là bộ điều khiển công suất mã hóa

Thử nghiệm trên Windows đã chỉ đích danh nguyên nhân. Khi vô hiệu hóa Nvidia Platform Controllers and Framework trong Device Manager, tốc độ rơi từ khoảng 83 xuống khoảng 31 token/giây, xung nhịp giảm từ khoảng 2 GHz xuống đúng mức 786 MHz – trùng khớp với con số quan sát được trên Linux khi cắm điện. Bật lại bộ điều khiển này thì hiệu năng phục hồi ngay.

Như vậy, vấn đề không nằm ở kernel, bản phân phối hay driver GPU của Nvidia, mà ở chính bộ điều khiển công suất. Firmware trao cho nó một bảng thông số công suất đã mã hóa; Windows có khóa để giải mã, Linux thì không. Các cách xử lý phần mềm đã thử đều thất bại, thậm chí có lần gây kernel panic. Trích xuất khóa giải mã từ driver Windows được nêu ra như một giải pháp lý thuyết, nhưng đó chỉ là mẹo chắp vá cho từng máy chứ không dùng rộng được.

WSL là giải pháp tạm thời hợp lý

WSL giữ nguyên xung nhịp GPU của Windows nên hiệu năng AI ổn định hơn

Với phần lớn lập trình viên, WSL hiện là lựa chọn thực tế nhất. WSL chạy trên nền driver của Windows nên thừa hưởng nguyên cơ chế tăng xung GPU, bất kể máy cắm sạc hay dùng pin. Nó vẫn chạy được các công cụ AI ưu tiên Linux như vLLM và SGLang mà không gặp hiện tượng khóa xung.

Điều cần chỉnh là bộ nhớ: WSL mặc định chỉ dành 14 GB, không đủ cho các mô hình lớn trên máy có 128 GB bộ nhớ hợp nhất, nên phải tăng thủ công. Sau khi điều chỉnh, điểm benchmark của WSL tiệm cận Windows bản địa.

Góc nhìn

Câu chuyện này cho thấy một bài học quen thuộc với giới kỹ sư: phần cứng mạnh đến đâu cũng vô nghĩa nếu firmware và lớp quản lý năng lượng không mở. Khi Nvidia quảng bá RTX Spark như máy dành cho lập trình viên AI, việc toàn bộ logic chia sẻ công suất giữa CPU và GPU bị khóa trong một thành phần chỉ Windows đọc được là điểm nghẽn cần được xử lý sớm.

Với các nhóm đang cân nhắc mua hoặc dùng thử thiết bị này, WSL là con đường ít rủi ro nhất ở thời điểm hiện tại, miễn là nhớ tăng hạn mức bộ nhớ. Còn nếu muốn chạy Linux bản địa, cần chờ Nvidia đưa logic quản lý công suất của bộ điều khiển nền tảng vào driver Linux – chỉ khi đó chiếc laptop mới thực sự trở thành một phiên bản di động của DGX Spark.