Nvidia "xanh hóa" trung tâm dữ liệu để bảo vệ nguồn thu khỏi giới hạn lưới điện

Nvidia đang đối mặt với một nghịch lý: khả năng bán GPU của họ suy cho cùng bị giới hạn bởi lượng điện mà lưới điện có thể cung cấp. Càng nhiều GPU đồng nghĩa với việc rút càng nhiều điện từ lưới. Không thể ép các đơn vị vận hành lưới điện bổ sung công suất nhanh hơn, Nvidia chọn cách giúp khách hàng xây dựng những trung tâm dữ liệu thông minh và tiết kiệm điện hơn.

Bài toán công suất bị bỏ phí

Các trung tâm dữ liệu hiếm khi hoạt động gần mức công suất đỉnh. Một trung tâm 100 megawatt có thể chỉ dùng tối đa 80% cho các tác vụ tính toán quan trọng. Phần dự phòng này để bù cho sự kém hiệu quả của phần cứng, tổn thất chuyển đổi và các đợt tăng vọt nhu cầu.

Điểm bất lợi là khoảng 20 megawatt công suất không được khai thác — trung tâm dữ liệu không dùng được, còn công ty điện lực cũng không thu hồi được.

Mỗi kilowatt công suất bị bỏ phí chính là một GPU mà Nvidia lẽ ra có thể bán được.

Đây là lý do nền tảng DSX của Nvidia ra đời, nhằm giải quyết cả hai vấn đề cùng lúc.

DSX MaxLPS: Khi hạ tầng biết "nói chuyện" với nhau

Thành phần đầu tiên, DSX MaxLPS, là bước tiến hóa của một ý tưởng cũ. Nếu khối tính toán và toàn bộ hạ tầng vật lý — tủ điện, pin, bộ phân phối chất làm mát (CDU) và hệ thống làm lạnh — có thể trao đổi thông tin với nhau, nhà vận hành sẽ tiết kiệm được đáng kể điện năng.

Ví dụ, nếu hệ thống xử lý không khí biết được một rack đang tiêu thụ bao nhiêu điện, nó có thể tăng giảm công suất theo nhu cầu thay vì chạy hết công suất liên tục.

Thách thức nằm ở việc kết nối các hệ thống từ hàng chục nhà cung cấp khác nhau. Điều này đã thay đổi nhờ sự phổ biến của các hệ thống AI. Trung tâm dữ liệu hiệu quả hơn có thể tạo ra nhiều token hơn, đồng nghĩa với doanh thu cao hơn.

DSX Exchange đóng vai trò như một API cho phép thu thập thông tin không chỉ từ các hệ thống lõi mà còn từ các nhà cung cấp đối tác như Vertiv và Schneider Electric, cùng các hệ thống quản lý tòa nhà.

Tại AI Infra Summit, Nvidia và Lambda đã chứng minh khả năng này: Lambda nhồi được 19 node vào mức ngân sách điện vốn chỉ dành cho 16 node, tăng thông lượng toàn cụm lên 24% và hiệu suất trên mỗi watt tương đương.

DSX Flex: Giảm tải khi lưới điện quá sức

Ngoài việc giúp khách hàng khai thác tối đa trung tâm dữ liệu, Nvidia còn cho thấy công nghệ quản lý của mình có thể giảm thiểu tác động của các triển khai AI quy mô lớn lên lưới điện địa phương.

Làm việc với Emerald AI và Silicon Valley Power, Nvidia trình diễn cách nền tảng DSX Flex giải phóng công suất trung tâm dữ liệu khi nhu cầu lưới điện tăng vọt, mà không làm gián đoạn các tác vụ quan trọng.

Khái niệm demand response (đáp ứng nhu cầu) không mới — nó cho phép công ty điện lực yêu cầu các ngành tiêu thụ nhiều năng lượng cắt giảm sử dụng trong giờ cao điểm. Google và nhiều đơn vị khác đã thử nghiệm công nghệ này từ lâu.

Nhưng DSX Flex mang khả năng này đến với bất kỳ ai triển khai phần cứng Nvidia. Điểm mấu chốt: công nghệ này có thể giúp các công ty điện lực mạnh dạn cấp thêm công suất, vì họ biết có thể thu hồi một phần bất cứ lúc nào.

"Nó cho phép các đơn vị cung cấp lưới điện, chủ sở hữu đường truyền, bớt thận trọng hơn trong cách phân bổ công suất, vì giờ đây họ biết bạn có khả năng cắt giảm trong một khung thời gian nhất định," Dion Harris, giám đốc cấp cao mảng hạ tầng AI và HPC siêu quy mô của Nvidia, giải thích.

Khi công ty điện lực thu hồi công suất, các tác vụ không thiết yếu có thể tạm dừng hoặc được di chuyển sang trung tâm dữ liệu lân cận còn dư công suất — khái niệm đôi khi được gọi là "chasing the sun" (đuổi theo mặt trời).

Một "khu vườn có tường" mới

Như có thể đoán trước, nền tảng DSX hoạt động tốt nhất với các nhà máy AI xây dựng từ phần cứng đã được xác thực. Mọi thứ trở nên phức tạp hơn khi thêm các bộ tăng tốc bên thứ ba từ d-Matrix, SambaNova và những hãng khác.

Với các đối tác đã nằm trong hệ sinh thái NVLink Fusion như d-Matrix, Harris cho rằng vẫn có lộ trình mở rộng hỗ trợ DSX, dù cần một mức độ tích hợp phần mềm nhất định và không phải chip nào cũng phơi bày mức độ kiểm soát chi tiết như chip của Nvidia.

Với các nền tảng cạnh tranh như GPU Instinct của AMD, các nhà xây dựng trung tâm dữ liệu sẽ phải tìm đến hệ thống quản lý khác để tái tạo năng lực của DSX.

Ý nghĩa với thị trường và người dùng Việt Nam

Đối với Việt Nam, nơi các trung tâm dữ liệu AI đang phát triển nhanh và hạ tầng lưới điện đang chịu áp lực ngày càng lớn, câu chuyện này mang tính thời sự. Việc tối ưu công suất trên mỗi watt không chỉ là vấn đề chi phí mà còn là điều kiện để các dự án AI quy mô lớn được cấp phép và vận hành bền vững.

Tuy nhiên, bài học lớn hơn nằm ở chiến lược của Nvidia: song song với việc khai thác tối đa công suất lưới điện hiện có, DSX là một khu vườn có tường mới, đảm bảo khách hàng tiếp tục mua thiết bị của hãng. Các doanh nghiệp Việt Nam khi lựa chọn nền tảng hạ tầng AI cần cân nhắc kỹ giữa hiệu quả trước mắt và mức độ phụ thuộc vào một nhà cung cấp duy nhất trong dài hạn.