Giáo sư Stanford thúc đẩy giao thức mới thay thế TCP cho kỷ nguyên AI

Giáo sư danh dự John Ousterhout của Đại học Stanford đang tích cực vận động cho Homa – một giao thức truyền tải dữ liệu mới được thiết kế để thay thế TCP, giao thức đã làm nền tảng cho gần như toàn bộ internet và điện toán đám mây trong nhiều thập kỷ qua.

Theo Ousterhout, TCP không còn phù hợp với các khối lượng công việc AI đang bùng nổ hiện nay. Ông cho rằng đây là thời điểm chín muồi để các trung tâm dữ liệu chuyển sang một giao thức được thiết kế lại từ đầu, phù hợp hơn với đặc thù của kỷ nguyên trí tuệ nhân tạo.

TCP đã lỗi thời trong môi trường trung tâm dữ liệu

Phát biểu tại hội nghị AI Engineer World's Fair gần đây, Ousterhout thẳng thắn nhận định:

"TCP, với tất cả những điều tuyệt vời mà nó đã làm được, không còn là lựa chọn phù hợp cho các trung tâm dữ liệu."

Vấn đề nằm ở chỗ TCP được thiết kế dựa trên luồng byte (byte stream) – một dòng dữ liệu liên tục không phân biệt giữa các tin nhắn. Điều này có nghĩa là máy nhận không thể phân biệt được đâu là tin nhắn ngắn, đâu là tin nhắn dài, và cũng không thể ưu tiên xử lý các tác vụ cần độ trễ thấp.

Trong khi đó, các khối lượng công việc AI lại cực kỳ nhạy cảm với độ trễ. Dù chỉ chậm một mili giây, một GPU đắt tiền cũng có thể rơi vào trạng thái nhàn rỗi, gây lãng phí nghiêm trọng.

Homa khác biệt ở điểm nào?

Homa được phát triển lần đầu trong luận án tiến sĩ năm 2019 của Behnam Montazeri (hiện là kỹ sư tại Google). Giờ đây, sau khi nghỉ hưu, Ousterhout xem việc phổ biến Homa là "sứ mệnh cuộc đời" của mình.

Điểm khác biệt cốt lõi của Homa so với TCP:

• Dựa trên tin nhắn (message-based) thay vì luồng byte – độ dài mỗi tin nhắn được xác định rõ ràng, tương tự cơ chế gọi thủ tục từ xa (RPC)
• Máy nhận quản lý kiểm soát tắc nghẽn, thay vì máy gửi như TCP. Gói tin đầu tiên mà máy nhận được sẽ chứa thông tin về lượng dữ liệu sắp tới, từ đó máy nhận có thể chủ động lên lịch gửi các gói tin
• Ưu tiên tin nhắn ngắn nhờ thuật toán SRPT (shortest-remaining-processing-time), giúp giảm mạnh độ trễ cho các tác vụ ngắn

Theo Ousterhout, cách tiếp cận này giúp giảm độ trễ của tin nhắn ngắn xuống một bậc độ lớn. Cụ thể, độ trễ bách phân vị thứ 99 (p99) cho tin nhắn ngắn của Homa chỉ là 92 micro giây, nhanh hơn 13 lần so với 1,2 mili giây của TCP (trong điều kiện mạng 100 Gbps ở mức sử dụng 80%). Ngay cả với tin nhắn dài nhất, Homa vẫn nhanh hơn gấp đôi.

Triển khai đơn giản hơn tưởng tượng

Dù việc loại bỏ TCP nghe có vẻ là nhiệm vụ khổng lồ, Ousterhout khẳng định việc tích hợp Homa vào hệ thống mạng hiện có khá đơn giản:

1. Biên dịch Homa từ mã nguồn trên GitHub
2. Cài đặt module vào nhân Linux trên cả máy khách lẫn máy chủ
3. Không cần khởi động lại hệ thống

Điểm đáng chú ý là Homa có thể hoạt động song song với TCP, cho phép các tổ chức chuyển đổi ứng dụng dần dần. Thậm chí, theo Ousterhout, việc chạy Homa còn khiến các ứng dụng TCP còn lại hoạt động nhanh hơn.

Hiện tại, ông đang soạn thảo tài liệu chuẩn hóa IETF cho giao thức này, đồng thời thúc đẩy quá trình đưa Homa vào nhân Linux chính thức. Vào tháng 3, giao thức đã được backport cho Red Hat Enterprise Linux phiên bản 8 và 9.5. Ông cũng đang hợp tác với một công ty dịch vụ tài chính lớn để thử nghiệm nguyên mẫu.

Không phải ai cũng đồng tình

Dĩ nhiên, không phải toàn bộ cộng đồng mạng đều ủng hộ việc thay thế TCP. Kiến trúc sư mạng nổi tiếng Ivan Pepelnjak đã công bố một bài phản biện gay gắt vào năm 2023, đặt câu hỏi về cách Ousterhout đánh giá hiệu năng của TCP và chỉ trích Homa là "giải pháp đang đi tìm vấn đề".

Tuy nhiên, cần công bằng mà nói, cộng đồng AI không phải là nhóm duy nhất thất vọng với TCP. Nhiều lĩnh vực khác cũng đã tìm cách vượt qua giới hạn của giao thức này:

• Cơ sở dữ liệu hiệu năng cao sử dụng DPDK để bỏ qua ngăn xếp TCP
• Mạng lưu trữ chuyển sang NVMe-oF với các giao thức truyền tải như RDMA, Fibre Channel
• Web sử dụng QUIC (nền tảng của HTTP/3) do Google phát triển để tránh hiện tượng chặn đầu dòng
• Giao dịch tần suất cao và game nhiều người chơi cũng chịu ảnh hưởng từ độ trễ của TCP

Ý nghĩa với Việt Nam

Đối với các doanh nghiệp công nghệ và trung tâm dữ liệu tại Việt Nam, đặc biệt là những đơn vị đang đầu tư vào hạ tầng AI và học máy, sự phát triển của Homa có thể là tín hiệu đáng theo dõi. Khi các mô hình ngôn ngữ lớn ngày càng được triển khai rộng rãi, nhu cầu về hạ tầng mạng độ trễ thấp sẽ trở nên cấp thiết hơn bao giờ hết.

Việc Homa có thể chạy song song với TCP và không yêu cầu khởi động lại hệ thống cũng mở ra khả năng thử nghiệm tương đối ít rủi ro cho các đội ngũ vận hành hạ tầng.

Tương lai nào cho TCP?

Vint Cerf và các đồng nghiệp đã tạo ra TCP để mang lại trật tự cho dòng gói tin hỗn loạn trên mạng, với đầy đủ cơ chế kiểm soát luồng, đảm bảo phân phối, bắt tay kết nối và kiểm soát tắc nghẽn. Những đóng góp đó là không thể phủ nhận.

Nhưng trong bối cảnh các mô hình AI ngày càng lớn và yêu cầu về độ trễ ngày càng khắt khe, câu hỏi đặt ra là liệu TCP có còn xứng đáng giữ vị trí độc tôn hay không. Homa có thể đã đi trước thời đại, hoặc cũng có thể cuối cùng đã tìm thấy bài toán mà nó sinh ra để giải quyết.

Dù thế nào, hiện tại TCP vẫn đang là nhà vô địch. Nhưng cuộc đua có thể sắp thay đổi.