Hạ tầng mạng đang trở thành "nút thắt" của cuộc cách mạng AI

Hạ tầng mạng đang trở thành "nút thắt" của cuộc cách mạng AI

AI đang thay đổi hoàn toàn yêu cầu đối với hạ tầng mạng, nhưng nhiều tổ chức, kể cả các nhà cung cấp dịch vụ GPU (neocloud), vẫn chưa chuẩn bị kỹ. Các chuyên gia cảnh báo việc chỉ tập trung vào sức mạnh tính toán mà bỏ qua khả năng vận chuyển dữ liệu sẽ dẫn đến thất bại.

Hạ tầng mạng bị bỏ quên trong cuộc đua AI

Một nghiên cứu mới đây của công ty phân tích Omdia chỉ ra rằng nhiều nhà cung cấp dịch vụ cho thuê GPU đã mở rộng quy mô hạ tầng tính toán để xử lý khối lượng công việc AI, song hạ tầng mạng của họ đang trở thành một ràng buộc nghiêm trọng. Omdia khuyến cáo các khách hàng doanh nghiệp cần xem xét kỹ lưỡng các nhà cung cấp tiềm năng không chỉ dựa trên sức mạnh tính toán thô mà còn cả khả năng mạng lưới của họ.

Các nhà khai thác neocloud, hay các nhà cung cấp mô hình GPU-as-a-service, đã mọc lên như nấm để tận dụng nhu cầu khổng lồ về sức mạnh tính toán sử dụng GPU tăng tốc cho AI. Nhiều đơn vị trong số này phục vụ cả các "gã khổng lồ" đám mây (hyperscalers) như Microsoft cũng như các doanh nghiệp lớn.

Sự thiếu đồng bộ của các nhà cung cấp Neocloud

Điều này có nghĩa là hiệu suất của AI ngày càng phụ thuộc vào khả năng xử lý và di chuyển dữ liệu an toàn qua các môi trường phân tán và địa lý khác nhau. Tuy nhiên, theo Omdia, khả năng mạng của các neocloud hiện nay rất đa dạng, từ sơ khai đến tiên tiến, phụ thuộc phần lớn vào nguồn gốc hình thành của họ.

Ví dụ, một số công ty như CoreWeave bắt đầu là hoạt động khai thác tiền điện tử (crypto mining), trong khi những cái khác như Gcore trước đây tập trung vào phân phối nội dung (CDN) hoặc lưu trữ web. Do đó, chiến lược mạng của neocloud đang ở trạng thái biến động toàn cầu, với nhiều đơn vị đang vội vã hợp tác, mua lại hoặc tự xây dựng hạ tầng khi sự phụ thuộc vào mạng lưới của họ ngày càng tăng.

"Hạ tầng mạng sẽ quyết định sự sống còn của các neocloud," Camille Mendler, Giám đốc Nghiên cứu B2B Viễn thông tại Omdia, cảnh báo. "Độ trễ thấp, khả năng kết nối linh hoạt và an toàn từ xương sống đến biên mạng là điều kiện tiên quyết để thành công, không chỉ vì chủ quyền dữ liệu bao trùm nơi mà khối lượng công việc AI di chuyển đến."

Mạng lưới là "hệ thần kinh", không phải "ống nước"

Nhà cung cấp mạng toàn cầu Lumen cũng đang tham gia vào xu hướng này. CEO Kate Johnson đã gửi một bức thư ngỏ đến các giám đốc điều hành doanh nghiệp, đặt câu hỏi liệu mạng của họ đã sẵn sàng cho AI chưa và thúc đẩy các nâng cấp để hỗ trợ các ứng dụng AI sắp tới.

Johnson khẳng định mạng lưới truyền thống luôn ở hậu trường giống như hệ thống ống nước (plumbing). "Nhưng trong một doanh nghiệp dẫn đầu bởi AI, mạng giống như hệ thần kinh. Nó kiểm soát và điều phối. Nó quyết định tốc độ bạn có thể di chuyển và liệu các khoản đầu tư vào AI của bạn có tạo ra giá trị hay không," bà nói.

Các hệ thống AI không hoạt động ở một vị trí cố định mà liên tục di chuyển dữ liệu giữa các đám mây, trung tâm dữ liệu và các điểm cuối biên mạng (edge). Do đó, mạng phải có khả năng thích ứng và mở rộng quy mô một cách linh hoạt.

Sự bùng nổ của lưu lượng AI Agents

"Lực lượng lao động doanh nghiệp mới bao gồm các tác nhân AI và bot. Chúng nhân lên nhanh chóng, hoạt động liên tục, tiêu thụ và tạo ra dữ liệu một cách không ngừng nghỉ và tương tác động với các tác nhân, bot và con người khác," Johnson viết trong thư.

Mặc dù việc áp dụng AI ở hầu hết các doanh nghiệp vẫn còn ở giai đoạn sơ khai, nhưng hiện nay, hơn 50% lưu lượng truy cập internet được tạo ra bởi những người lao động tự động này, bà khẳng định. Con số này đến từ báo cáo Bad Bot Report 2025 của Imperva, trong đó nêu rõ lưu lượng truy cập tự động hiện đã vượt qua hoạt động của con người, chiếm 51% tổng số truyền tải internet.

"Để hỗ trợ thế giới mới đầy táo bạo của AI, các mạng cần hoàn toàn có thể thích ứng, có thể lập trình và dựa trên mức tiêu thụ, giống như điện toán đám mây," Johnson kết luận, kêu gọi các lãnh đạo doanh nghiệp hãy "đảm bảo mạng của bạn hỗ trợ tương lai mà bạn đang xây dựng."