Google ra mắt AX: Nền tảng điều phối agent chạy quy mô hàng tỷ tác vụ

Google vừa giới thiệu AX (Agent Executor) — một nền tảng điều phối mã nguồn mở chuyên dụng cho các tác vụ agent, được thiết kế để chạy ở quy mô lên tới hàng tỷ tác vụ trên mỗi cụm máy chủ. Đây là bước đi cho thấy gã khổng lồ tìm kiếm đang nghiêm túc xây dựng hạ tầng nền tảng cho kỷ nguyên AI agent.

Khác với các orchestrator truyền thống vốn được thiết kế cho microservices hay batch job, AX hướng tới một loại workload hoàn toàn mới: các agent có trạng thái, chạy dài hạn, tiêu tốn tài nguyên theo từng đợt và thường xuyên rơi vào trạng thái chờ phản hồi từ model, công cụ hoặc con người.

Bài toán mới từ các agent

Theo Google, agent không phải là microservice, cũng chẳng phải batch job. Chúng tích lũy trạng thái, cần cách ly nghiêm ngặt, liên tục gọi ra các API model và máy chủ công cụ, đồng thời có thể "đốt tiền" trong vòng lặp vô tận nếu không ai giám sát.

Các hệ thống điều phối cũ trở nên tốn kém khi phải duy trì các sandbox nhàn rỗi, trong khi lại thiếu hỗ trợ gốc cho việc tạm dừng và khôi phục gần như tức thời.

Bốn primitive cốt lõi

AX giải quyết bài toán trên bằng bốn thành phần khai báo:

• Task — Thực thi cách ly, chạy mã agent không đáng tin cậy trong sandbox có giới hạn CPU và bộ nhớ. Việc tạo, tạm dừng và xóa task rất rẻ.
• Workspace — Thiết lập môi trường dễ dàng. Chỉ cần liệt kê các repo Git, máy chủ MCP và kỹ năng mà agent cần, hoặc mô tả mục tiêu bằng ngôn ngữ tự nhiên.
• Gateway — Chính sách mạng. Định nghĩa và quản lý nhanh chóng các chính sách mạng, khóa lưu lượng vào một danh sách host và cổng được phép, đồng thời chèn thông tin xác thực vào các yêu cầu đến.
• Model — Một điểm cấu hình duy nhất cho model, tham số và secret. Xoay khóa hoặc ghim phiên bản model mới chỉ với một lệnh apply.

Chạy hàng tỷ tác vụ trên mỗi cụm

AX hoạt động trên nền Agent Substrate — một runtime được thiết kế từ đầu cho mật độ cực cao và vòng đời actor có trạng thái với tốc độ nhanh.

Mỗi task chạy như một actor nhẹ, cho phép mở rộng tới hàng tỷ phiên agent đồng thời trên mỗi cụm mà không gặp giới hạn của orchestrator. Các agent đang chờ phản hồi model, công cụ hay con người sẽ được checkpoint, tạm dừng và khôi phục dưới một giây, không có độ trễ khởi động lạnh.

Hàng chục task có thể chia sẻ tài nguyên worker, biến thời gian chờ nhàn rỗi thành năng lực tính toán dự phòng — nghĩa là bạn chỉ trả tiền khi agent thực sự suy nghĩ và chạy mã.

Trải nghiệm dành cho nhà phát triển

Điểm đáng chú ý là AX tích hợp sẵn các tính năng generative. Ví dụ, bạn có thể thiết lập workspace chỉ bằng cách mô tả bằng tiếng Anh, môi trường sẽ được chuẩn bị tự động trước khi task bắt đầu.

apiVersion: ax.io/v1alpha1
kind: Task
metadata:
  name: data-analysis
spec:
  workspaces:
  - name: python-env
  goal: "Set up a Python 3 development environment"

Người dùng có thể dùng dòng lệnh để tương tác trực tiếp với task đang chạy, truy cập vào sandbox qua SSH, kiểm tra tiến trình, tạm dừng và khôi phục mà vẫn giữ nguyên trạng thái:

$ ax suspend task test → task.ax.io/test suspended $ ax resume task test → task.ax.io/test resumed $ ax ssh test -- ls notes.txt → notes.txt

Nền tảng này phù hợp cho nhiều kịch bản: agent lập trình tương tác, máy chủ agent chạy dài hạn, Jupyter notebook, kiểm thử trình duyệt headless và runtime công cụ tùy chỉnh.

Góc nhìn từ nghiên cứu đến sản xuất

AX ra đời tại Google khi nghiên cứu về hệ thống runtime cho agent gặp gỡ hạ tầng tính toán tiên tiến. Qua nhiều năm vận hành các engine thực thi agent, các nhóm tại Google nhận ra rằng workload agent đại diện cho một mô hình tính toán hoàn toàn mới: các actor có trạng thái, bùng nổ theo đợt và chạy dài hạn.

Dự án kế thừa nghiên cứu về runtime agent từ Google DeepMind, kết hợp với kinh nghiệm sâu về cách ly, khôi phục và lập lịch quy mô lớn. AX được định vị là một control plane khai báo, mở, phục vụ riêng cho việc thực thi agent.

Với các nhà phát triển và nhà nghiên cứu AI tại Việt Nam đang tìm cách xây dựng, đánh giá và mở rộng quy mô agent, AX có thể là một lựa chọn đáng cân nhắc: nó giúp trừu tượng hóa hạ tầng phức tạp để tập trung vào công việc chuyên môn, thay vì phải tự phát minh lại nền tảng bên dưới.