Cloudflare ra mắt Dynamic Workflows: Mang tính thực thi bền vững đến từng mã nguồn của thuê chủ và tác nhân AI

Cloudflare đã chính thức phát hành Dynamic Workflows, một thư viện mới với giấy phép MIT nhằm mở rộng khả năng của động cơ thực thi bền vững (durable execution engine) của công ty. Điểm đột phá của giải pháp này nằm ở chỗ cho phép mã quy trình làm việc (workflow code) có thể khác nhau đối với mỗi thuê chủ (tenant), tác nhân (agent) hoặc yêu cầu tại thời điểm chạy.

Trước đây, Cloudflare Workflows yêu cầu mã quy trình phải là một phần của quá trình triển khai, với một ràng buộc (binding) và một lớp cho mỗi lần triển khai. Dynamic Workflows đã loại bỏ ràng buộc này, cho phép một nền tảng định tuyến mọi lệnh gọi create() đến mã của từng thuê chủ khác nhau. Động cơ sau đó sẽ gửi lệnh run(event, step) quay lại chính mã đó khi quy trình được thực thi, dù là vài giây, vài giờ hay vài ngày sau đó.

Dan Lapid và Luís Duarte từ đội ngũ kỹ thuật của Cloudflare chia sẻ:

Hãy tưởng tượng bạn đang xây dựng một nền tảng ứng dụng nơi AI viết TypeScript cho từng thuê chủ. Hoặc bạn đang vận hành một sản phẩm CI/CD nơi mỗi kho chứa (repository) có quy trình riêng. Hay bạn đang sử dụng SDK tác nhân nơi mỗi tác nhân viết kế hoạch bền vững của riêng mình. Trong mọi trường hợp này, quy trình là khác nhau cho mỗi thuê chủ, mỗi tác nhân, mỗi yêu cầu. Không có một lớp duy nhất nào để ràng buộc.

Cơ chế hoạt động và kiến trúc

Thư viện này có độ dài khoảng 300 dòng TypeScript. Một thành phần gọi là Worker Loader đóng vai trò trung gian giữa động cơ Workflows và mã của thuê chủ (một Dynamic Worker), giúp định tuyến việc thực thi đến đúng thuê chủ khi động cơ thức dậy.

Khi một thuê chủ gọi env.WORKFLOWS.create(...), nó trông giống như một ràng buộc Workflow bình thường. Tuy nhiên, bên dưới, Worker Loader sẽ bao bọc lệnh gọi đó với siêu dữ liệu của thuê chủ. Động cơ Workflows lưu trữ tải trọng (payload), và khi động cơ sau đó thức dậy để thực hiện một bước (step), siêu dữ liệu sẽ định tuyến việc thực thi quay lại mã của đúng thuê chủ đó. Các tính năng như ID quy trình, tạm dừng/tiếp tục, thử lại, ngủ đông, step.sleep('24 hours') và step.waitForEvent() đều hoạt động bình thường không thay đổi.

Ứng dụng trong CI/CD và Tác nhân AI

Trường hợp sử dụng CI/CD là nơi các hàm ý kiến trúc trở nên cụ thể nhất. Cloudflare mô tả một quy trình hoàn chỉnh nơi mã pipeline nằm trong kho chứa của khách hàng dưới dạng TypeScript WorkflowEntrypoint. Nền tảng tải nó động, và mỗi bước chạy với đầy đủ ngữ nghĩa thực thi bền vững.

Bài viết trên blog của Cloudflare đã sắp xếp bốn nguyên thủy (primitives) của Cloudflare hoạt động cùng nhau:

• Artifacts: Cung cấp lưu trữ phiên bản kiểu Git với hydrate cây lười và fork() tức thì cho mỗi lần chạy CI.
• Dynamic Workers: Chạy các bước nhẹ (lint, typecheck, bundle) trong các isolate được sandbox khởi động trong vài mili-giây.
• Dynamic Workflows: Giữ cho lần chạy hoạt động trơn tru với các bước có thể thử lại và ngủ đông miễn phí trong thời gian chờ duyệt.
• Sandboxes: Xử lý các bước nặng cần hệ điều hành đầy đủ, với khởi động nóng dựa trên snapshot trong vài giây.

Cloudflare so sánh điều này với sự phức tạp của CI truyền thống, nơi cấp phát máy ảo (VM), kéo ảnh cơ sở, clone repo và cài đặt phụ thuộc có thể tiêu tốn hơn một phút trước khi bất kỳ công việc thực tế nào bắt đầu. Ngăn xếp Dynamic Workflows bỏ qua tất cả các nghi thức này vì repo không di chuyển, mà tính toán sẽ đến với nó.

Đối với các nền tảng tác nhân AI cụ thể, Dynamic Workflows có nghĩa là một tác nhân có thể tự viết hàm run(event, step) của riêng mình như một kế hoạch bền vững. Mọi bước đều có thể thử lại độc lập, mọi lần ngủ đều miễn phí, và mọi waitForEvent đều có thể tạm dừng vô thời hạn để chờ sự phê duyệt của con người. Tác nhân viết kế hoạch, nền tảng chạy nó, và không cần bên nào biết trước kế hoạch trông như thế nào.

Tầm nhìn nền tảng và Cạnh tranh

Cloudflare đặt ra luận điểm nền tảng rõ ràng: Dynamic Workers đã giải quyết lớp tính toán cho mã động đa thuê chủ. Durable Object Facets đã giải quyết lớp lưu trữ bằng cách cấp cho mỗi ứng dụng được tải động cơ sở dữ liệu SQLite riêng biệt. Giờ đây, Dynamic Workflows giải quyết lớp thực thi bền vững.

Cloudflare khẳng định rằng mọi ràng buộc mà Workers hiện cung cấp đều đang hướng tới một phiên bản động tương ứng: hàng đợi, bộ nhớ đệm, cơ sở dữ liệu, ràng buộc AI và máy chủ MCP đều sẽ có thể được gửi đi theo từng thuê chủ, từng tác nhân, từng yêu cầu, với chi phí nhàn rỗi bằng không. Nếu điều này hiện thực hóa, nó sẽ làm giảm đáng kể chi phí hạ tầng để vận hành một nền tảng đa thuê chủ: các thuê chủ nhàn rỗi gần như không tốn chi phí, trong khi các thuê chủ hoạt động chia sẻ phần cứng thông qua đa thuê chủ ở cấp độ isolate.

Về mặt cạnh tranh, bối cảnh cho tính thực thi bền vững theo từng thuê chủ khá ít ỏi. Temporal và Inngest cung cấp các động cơ thực thi bền vững, nhưng không cái nào cung cấp khả năng tải mã động theo từng thuê chủ ở cấp độ cách ly (isolate level) mà Dynamic Workflows bật lên. AWS Step Functions hỗ trợ máy trạng thái động nhưng yêu cầu định nghĩa nhiệm vụ được xác định trước. Sự kết hợp giữa tải mã thời gian chạy, cách ly ở cấp độ isolate V8 và phân phối edge hiện tại là độc quyền đối với ngăn xếp của Cloudflare.

Thư viện @cloudflare/dynamic-workflows hiện đã có trên npm, được xây dựng trên nền tảng Dynamic Workers (dạng bản thử nghiệm mở trên gói trả phí Workers). Kho lưu trữ bao gồm một ví dụ hoạt động với sân chơi tương tác trên trình duyệt.