IOWN Global Forum tập trung vào kết nối trung tâm dữ liệu để phân tán hạ tầng AI

IOWN Global Forum tập trung vào kết nối trung tâm dữ liệu để phân tán hạ tầng AI

Diễn đàn IOWN Global Forum dự kiến sẽ tập trung vào các trường hợp sử dụng kết nối giữa các trung tâm dữ liệu (datacenter interconnect), nhằm hỗ trợ các nhà cung cấp đa dạng hóa cơ sở hạ tầng AI. Hiệp hội phát triển mạng WAN tốc độ cao này tin rằng các nhà cung cấp đám mây mới (neoclouds) đang sẵn sàng cho sự kết nối này.

Diễn đàn phát triển và thúc đẩy công nghệ Mạng Quang học và Không dây Đổi mới (Innovative Optical and Wireless Network - IOWN), với nỗ lực thay thế tất cả các mạng có dây bằng công nghệ quang học. Các nhà hỗ trợ của IOWN hy vọng một ngày nào đó sẽ đưa công nghệ này áp dụng cho cả các kết nối giữa các die trên chip, nhưng hiện tại họ đang sở hữu công nghệ mạng diện rộng (WAN) tốc độ cao và độ trễ thấp. Công nghệ này đã chứng minh khả năng xử lý khối lượng công việc như sao chép dữ liệu đồng bộ trên hàng trăm kilômét sợi quang mà một nhà mạng đối tác của IOWN lắp đặt thành một mạng toàn quang (all-photonic network).

Tại cuộc họp thường niên vừa diễn ra ở Sydney, Úc, The Register đã có cuộc gặp với chủ tịch ủy ban điều hành Gonzalo Camarillo và Katsutoshi Itoh, người đứng đầu nhóm công việc về trường hợp sử dụng của IOWN.

Cả hai đều cho biết các cuộc tham vấn gần đây với người dùng tiềm năng đã làm nổi bật kết nối trung tâm dữ liệu như một trường hợp sử dụng chính sẽ thúc đẩy việc áp dụng IOWN.

Ông Camarillo chia sẻ rằng các đại diện ngành dịch vụ tài chính ở London nhìn thấy tiềm năng lớn của IOWN nếu nó cho phép họ sử dụng các trung tâm dữ liệu nằm ngoài thành phố, nơi chi phí thấp hơn so với khu vực trung tâm hoặc các quận kinh doanh. Tuy nhiên, các trung tâm dữ liệu ở xa hơn chỉ hữu ích nếu độ trễ vẫn được giữ ở mức thấp.

IOWN tin rằng các siêu nhà cung cấp dịch vụ đám mây (hyperscalers) sẽ tự tìm cách giải quyết vấn đề này, nhưng các nhà khai thác trung tâm dữ liệu nhỏ hơn và mới hơn – đặc biệt là các "neocloud" cung cấp GPU cho thuê – sẽ cần các liên kết tốc độ cao. IOWN muốn cung cấp liên kết này và tin rằng công nghệ của họ đủ nhanh để cho phép truy cập GPU từ xa mà không tạo ra nút thắt cổ chai, đồng thời có thể cho phép truy cập vào nhiều nguồn hạ tầng AI đa dạng hơn.

Diễn đàn cũng kỳ vọng các neocloud sẽ xây dựng nhiều trung tâm dữ liệu nhỏ hơn ở những nơi có đất và điện năng sẵn có, tạo ra nhu cầu kết nối giữa các cơ sở này. Ông Camarillo cho biết các cuộc thảo luận cấp hội đồng gần đây tại Diễn đàn cho thấy IOWN sẽ sẵn sàng cung cấp công nghệ của mình làm cầu nối liên kết này.

Nhóm cũng hy vọng trở thành chất xúc tác cho AI chủ quyền (sovereign AI), đề xuất các tổ chức giữ dữ liệu trong hạ tầng của riêng mình và sử dụng WAN toàn quang tốc độ cao để gửi dữ liệu đến đám mây hoặc neocloud lưu trữ các bộ tăng tốc AI. Đám mây sẽ không bao giờ lưu trữ dữ liệu ngoài việc xử lý và gửi kết quả lại cho khách hàng qua mạng IOWN.

Tạo nội dung từ xa và trung tâm dữ liệu tách rời

Một trường hợp sử dụng khác mà IOWN kế hoạch nhắm tới là tạo nội dung từ xa. Ông Itoh lấy ví dụ về một sự kiện thể thao để giải thích tầm quan trọng của vấn đề này, vì các đài truyền hình thường triển khai hơn 30 camera tại các sự kiện thể thao và sử dụng xe phát sóng ngoài hiện trường để sản xuất chương trình.

Các địa điểm tổ chức hội nghị thường chỉ định một công ty âm thanh-ảnh duy nhất để xử lý sự kiện và họ không ngại tính phí cao. Ông Itoh cho thấy điều tương tự cũng xảy ra tại các sân vận động. Diễn đàn IOWN muốn các địa điểm thể thao áp dụng WAN tốc độ cao của họ, giúp các đài truyền hình có thể tạo ra cơ sở sản xuất trung tâm và phát sóng trực tiếp mà không cần xe tại hiện trường. Ông Itoh, người đang làm việc tại Sony, thừa nhận công ty có thể hưởng lợi từ sự sắp xếp này.

Vượt ra ngoài các kịch bản ngành, IOWN hình dung họ có thể cho phép phát triển các trung tâm dữ liệu tách rời (disaggregated datacenters), nơi các cơ sở khác nhau chuyên biệt hóa việc lưu trữ GPU hoặc CPU. Các kết nối IOWN tốc độ cao giữa cả hai có thể cho phép tạo ra các cụm máy tính có thể kết hợp trên diện rộng (wide-area composable compute clusters), sử dụng tài nguyên housed ở nhiều cơ sở mà không làm tăng độ trễ đến mức không thể chấp nhận được.

Một nhóm gồm các gã khổng lồ trong ngành công nghệ máy tính đã ủng hộ IOWN, vì vậy những ý tưởng này không hoàn toàn xa vời, mặc dù chúng cần các nhà mạng cùng tham gia. Sự hỗ trợ từ các nhà cung cấp mạng lớn cũng sẽ là yếu tố then chốt.