Cisco và Nvidia hợp tác phát triển module quang cắm rời 12,8 Tbps cho trung tâm dữ liệu AI

Cisco và Nvidia vừa công bố một chuẩn module quang cắm rời (pluggable) mới mang tên USFP (Ultra-dense Small Form Factor Pluggable), hứa hẹn đạt băng thông lên tới 12,8 Tbps trên một module duy nhất — gấp 8 lần so với mức cao nhất hiện nay là 1,6 Tbps.

Thông báo được đưa ra tại hội nghị thượng đỉnh toàn cầu của Open Compute Project (OCP) tuần này, đánh dấu bước tiến quan trọng trong nỗ lực giải quyết bài toán hạ tầng mạng ngày càng phức tạp của các trung tâm dữ liệu AI.

Bài toán cáp quang trong trung tâm dữ liệu AI

Các trung tâm dữ liệu AI hiện nay là một mớ bòng bong cáp quang khổng lồ, kết nối hàng nghìn bộ tăng tốc AI, card mạng (NIC), switch và vô số thiết bị khác để phục vụ việc huấn luyện và vận hành các mô hình AI tiên tiến nhất.

Theo Cisco, mỗi GPU hiện thường được ghép với một NIC 800 Gbps, và sắp tới là 1,6 Tbps. Với hàng chục nghìn GPU trong một cụm huấn luyện, khối lượng cáp cần thiết là cực kỳ lớn.

Module USFP mới được kỳ vọng sẽ hợp nhất cáp của 8 GPU vào một bó sợi quang duy nhất, giúp giảm đáng kể độ phức tạp và chi phí vận hành.

Một switch 204,8 Tbps trong tương lai sẽ chỉ cần 16 cổng USFP để hỗ trợ 128 điểm cuối 1,6 Tbps.

Thông số kỹ thuật ấn tượng nhưng nhiều thách thức

Theo đặc tả ban đầu, mỗi module USFP có thể chứa tới 32 làn 400 Gbps, tương đương 12,8 Tbps băng thông Ethernet — ngang ngửa một switch doanh nghiệp cao cấp cách đây vài năm.

Tuy nhiên, việc nhồi nhét lượng kết nối khổng lồ như vậy vào một module nhỏ gọn không hề dễ dàng:

• Công suất tiêu thụ: Module quang cao cấp hiện nay tiêu thụ khoảng 20 watt, trong khi đặc tả USFP cho phép lên tới 100 watt mỗi module.
• Kết nối điện: Gấp 4 lần số làn đồng nghĩa với 4 lần số điểm tiếp xúc điện cần được căn chỉnh chính xác. Cisco cho biết module USFP sẽ sử dụng cơ chế cắm hai giai đoạn — đầu tiên đưa module vào khay, sau đó kích hoạt cơ chế thứ hai để thiết lập kết nối điện.
• Rủi ro lan rộng: Một laser hoặc DSP hỏng có thể ảnh hưởng tới nhiều GPU thay vì chỉ một thiết bị. Tuy nhiên, mức độ ảnh hưởng này vẫn thấp hơn so với quang học đồng gói (co-packaged optics), nơi một lỗi có thể loại bỏ cả rack tăng tốc khỏi mạng.

Vì sao Nvidia tham gia?

Sự tham gia của Nvidia vào chuẩn USFP khá đáng chú ý, bởi gã khổng lồ mạng Ethernet này đã dần rời bỏ module cắm rời trong các dòng switch mới nhất. Nhiều switch Spectrum-X và Quantum-X của họ hiện dùng quang học đồng gói, giúp tiết kiệm khoảng 30% năng lượng.

Tuy nhiên, NIC của Nvidia vẫn phụ thuộc vào module cắm rời để mang lại sự linh hoạt cho các nhà tích hợp. Không phải ai cũng xây dựng cụm hơn 100.000 GPU để huấn luyện.

Nvidia đang nhanh chóng tiến tới các rack 600 kW chứa 144 GPU. Nền tảng Vera Rubin Ultra hứa hẹn băng thông scale-out lên tới 115,2 TB/s mỗi rack, tương đương 6,4 Tbps mỗi gói GPU — trùng khớp với đặc tả USFP ban đầu của Cisco với 16 làn 400 Gbps.

Giống như hầu hết các chuẩn Ethernet, USFP sẽ là chuẩn mở cho bất kỳ ai muốn sử dụng trong thiết kế của mình.

Microsoft dùng chip định tuyến Cisco cho AI đa trung tâm dữ liệu

Bên cạnh hợp tác với Nvidia, Cisco cũng tiết lộ Microsoft đang sử dụng chip định tuyến Silicon One P200 để phân phối khối lượng công việc across nhiều trung tâm dữ liệu — xu hướng mà Nvidia gọi là "scale across networking".

Cisco quảng cáo P200 là hệ thống 51,2 Tbps đầu tiên "được triển khai trong môi trường sản xuất bởi các hyperscaler hàng đầu". Microsoft là một trong những hyperscaler đầu tiên áp dụng mạng đa site để vượt qua giới hạn năng lượng tại các cụm Fairwater ở Wisconsin và Georgia.

Cisco mở rộng hỗ trợ SONiC

Cisco cũng công bố hỗ trợ nền tảng Live Protect trên SONiC — hệ điều hành mạng mã nguồn mở phổ biến trong giới hyperscaler — giúp khách hàng dễ dàng cập nhật bản vá bảo mật hơn. Tính năng này dự kiến ra mắt trong năm tới.

Động thái này cho thấy Cisco đang thích nghi với xu hướng hyperscaler ưa chuộng các nền tảng NOS trung lập, tránh phụ thuộc vào một nhà cung cấp duy nhất.

Ý nghĩa với ngành

Sự hợp tác giữa Cisco và Nvidia phản ánh cuộc đua khốc liệt trong hạ tầng AI, nơi băng thông và mật độ kết nối trở thành yếu tố cạnh tranh then chốt. Với các trung tâm dữ liệu AI ngày càng tiêu thụ nhiều năng lượng và không gian, những giải pháp như USFP có thể giúp tối ưu hóa cả hai yếu tố này.

Đối với thị trường Việt Nam, nơi các trung tâm dữ liệu đang phát triển mạnh mẽ và nhu cầu hạ tầng AI ngày càng tăng, những chuẩn mở như USFP có thể mở ra cơ hội tiếp cận công nghệ tiên tiến với chi phí hợp lý hơn trong tương lai gần.