Uber Eats tái cấu trúc hệ thống tìm kiếm, giảm một nửa độ trễ

Uber vừa công bố kết quả đáng chú ý từ dự án tái cấu trúc hệ thống tìm kiếm của Uber Eats: độ trễ đầu-cuối (end-to-end latency) giảm tới 50%. Đây là một trong những cải tiến hạ tầng đáng chú ý nhất của nền tảng giao đồ ăn này trong thời gian gần đây, khi tốc độ tìm kiếm ảnh hưởng trực tiếp đến trải nghiệm người dùng và tỷ lệ chuyển đổi đơn hàng.

Bài toán độ trễ trong tìm kiếm thực phẩm

Với một nền tảng như Uber Eats, mỗi lần người dùng gõ từ khóa tìm món ăn, hệ thống phải thực hiện một chuỗi tác vụ phức tạp: truy xuất danh sách nhà hàng, lọc theo vị trí và thời gian giao hàng, xếp hạng kết quả, chèn quảng cáo và trả về giao diện hoàn chỉnh. Toàn bộ chuỗi này diễn ra trong tích tắc, và bất kỳ sự chậm trễ nào cũng khiến người dùng rời bỏ ứng dụng.

Theo Uber, việc tối ưu từng thành phần riêng lẻ không còn đủ để tạo ra bước nhảy về hiệu năng. Nhóm kỹ thuật quyết định nhìn lại toàn bộ pipeline tìm kiếm và tái thiết kế ở quy mô lớn.

Những thay đổi cốt lõi

Các cải tiến chính mà Uber triển khai bao gồm:

• Đo lường Above-the-Fold: thay vì đo thời gian tải toàn trang, Uber tập trung vào phần nội dung hiển thị ngay trên màn hình đầu tiên — phần mà người dùng thực sự nhìn thấy trước. Cách đo này phản ánh đúng hơn cảm nhận về tốc độ.
• Giảm khối lượng công việc truy xuất: tinh gọn lượng dữ liệu cần lấy từ các dịch vụ backend, tránh lãng phí tài nguyên cho những kết quả ít khả năng xuất hiện.
• Song song hóa quá trình hydration: thay vì nạp dữ liệu tuần tự, hệ thống thực hiện nhiều tác vụ đồng thời để rút ngắn tổng thời gian chờ.
• Thiết kế lại dữ liệu quảng cáo: tách biệt và tối ưu luồng dữ liệu quảng cáo để không làm chậm luồng tìm kiếm chính.
• Tối ưu hạ tầng: cải thiện cấu hình máy chủ, bộ nhớ đệm và đường truyền giữa các dịch vụ.
• Quy trình viết mã có tác nhân AI hỗ trợ (agentic coding workflow): ứng dụng AI vào chính quá trình phát triển phần mềm nhằm tăng tốc vòng lặp thử nghiệm và sửa lỗi.

Việc kết hợp tối ưu hạ tầng truyền thống với quy trình phát triển dựa trên AI cho thấy các công ty công nghệ lớn đang đưa trí tuệ nhân tạo vào cả khâu vận hành lẫn khâu xây dựng sản phẩm.

Hướng đi tiếp theo

Uber cho biết đang tiếp tục thử nghiệm thêm ba hướng kỹ thuật:

1. Microbatching: gom nhiều yêu cầu nhỏ thành lô để xử lý hiệu quả hơn.
2. Truy xuất dựa trên sản phẩm (product-based retrieval): tổ chức tìm kiếm theo món ăn cụ thể thay vì chỉ theo nhà hàng.
3. HTTP multipart streaming: truyền dần kết quả về trình duyệt thay vì chờ toàn bộ dữ liệu sẵn sàng.

Ý nghĩa với ngành công nghệ Việt Nam

Câu chuyện của Uber Eats là bài học đáng tham khảo cho các đội kỹ thuật tại Việt Nam đang xây dựng các ứng dụng thương mại điện tử, gọi xe hay giao đồ ăn. Điểm mấu chốt không nằm ở một mẹo tối ưu đơn lẻ, mà ở việc đo lường đúng chỉ số quan trọng nhất — ở đây là thời gian hiển thị nội dung đầu tiên — rồi tái cấu trúc toàn bộ hệ thống xoay quanh chỉ số đó.

Với các startup Việt có nguồn lực hạn chế hơn, việc ưu tiên đo lường đúng, giảm công việc truy xuất không cần thiết và song song hóa các tác vụ độc lập vẫn là những nguyên tắc có thể áp dụng ngay mà không đòi hỏi hạ tầng quá phức tạp.