Anthropic muốn nắm trọn bộ nhớ, đánh giá và điều phối AI Agent: Tại sao doanh nghiệp cần lo lắng?

Chỉ vài tuần sau khi công bố Claude Managed Agents, Anthropic đã cập nhật nền tảng này với ba khả năng mới. Những thay đổi này gộp chung các lớp hạ tầng như bộ nhớ, đánh giá và điều phối đa tác nhân (multi-agent orchestration) vào một thời gian chạy duy nhất.

Động thái này có thể đe dọa sự tồn tại của các công cụ độc lập mà nhiều doanh nghiệp hiện đang tự kết hợp lại với nhau.

Ba tính năng mới bao gồm Dreaming, Outcomes và Multi-Agent Orchestration. Theo Anthropic, chúng nhằm giúp các tác nhân (agent) bên trong Claude Managed Agents "có khả năng xử lý các tác vụ phức tạp tốt hơn với sự can thiệp tối thiểu".

Trong đó, Dreaming xử lý vấn đề bộ nhớ, nơi các tác nhân "phản tư" về các phiên làm việc của mình để quản lý ký ức, từ đó học hỏi và phát hiện các mẫu chưa biết. Outcomes cho phép các nhóm định nghĩa và thiết lập các tiêu chí cụ thể để đo lường mức độ thành công của tác nhân. Trong khi đó, Multi-Agent Orchestration sẽ chia nhỏ công việc để một tác nhân chính có thể ủy quyền cho các tác nhân khác.

Một nền tảng toàn diện

Claude Managed Agents cung cấp cho doanh nghiệp một con đường đơn giản hơn để triển khai các tác nhân AI bằng cách nhúng logic điều phối trực tiếp vào lớp mô hình. Đây là một nền tảng đầu cuối (end-to-end) để quản lý trạng thái, đồ thị thực thi và định tuyến.

Với sự bổ sung của Dreaming, Outcomes và Multi-agent Orchestration, Claude Managed Agents mở rộng khả năng của mình và cạnh tranh trực tiếp với các công cụ như LangGraph hay CrewAI, cũng như các khung đánh giá bên ngoài, kiến trúc bộ nhớ RAG và các vòng lặp QA.

Mối đe dọa về tích hợp

Doanh nghiệp hiện nay phải tự đặt ra câu hỏi: Liệu có nên từ bỏ hệ thống mô-đun linh hoạt để chuyển sang một nền tảng tác nhân mang tính "tất cả trong một" như thế này không?

Anthropic thiết kế Claude Managed Agents để chia sẻ ngữ cảnh, trạng thái và khả năng truy xuất nguồn gốc tại một nơi duy nhất. Điều này có nghĩa là nền tảng nhìn thấy mọi quyết định mà các tác nhân đưa ra, thay vì doanh nghiệp phải kết nối nhiều hệ thống riêng lẻ với nhau. Việc có một nền tảng làm mọi thứ nghe có vẻ rất thiết thực. Tuy nhiên, không phải mọi doanh nghiệp đều muốn một hệ thống dịch vụ toàn phần.

Claude Managed Agents đang phải đối mặt với chỉ trích rằng nó khuyến khích tình trạng vendor lock-in (phụ thuộc vào nhà cung cấp) vì sở hữu hầu hết kiến trúc và công cụ điều khiển tác nhân. Trong mô hình hiện tại, một tổ chức có thể chạy Managed Agents nhưng vẫn giữ phần điều phối, bộ nhớ hoặc đánh giá ở một không gian riêng để đảm bảo tính linh hoạt.

Hơn nữa, nền tảng này cung cấp thời gian chạy được lưu trữ hoàn toàn (fully-hosted), nghĩa là bộ nhớ và điều phối chạy trên hạ tầng mà doanh nghiệp không sở hữu. Điều này có thể trở thành "cơn ác mộng" về tuân thủ đối với một số tổ chức phải chứng minh được nơi cư trú của dữ liệu (data residency).

Một vấn đề khác cần cân nhắc là các doanh nghiệp đang ở giữa quá trình chuyển đổi quy mô lớn thường phải tìm cách lách qua các hạn chế của ngăn xếp công nghệ hiện có. Không phải mọi quy trình công việc đều có thể dễ dàng thay thế bằng cách chuyển sang Claude Managed Agents.

Dreaming và Outcomes so với các công cụ hiện tại

Hầu hết các doanh nghiệp hiện nay tiếp cận việc triển khai AI một cách phân mảnh.

Ví dụ, họ có thể sử dụng LangGraph hoặc Crew AI để định tuyến tác nhân và quản lý quy trình làm việc, Pinecone làm cơ sở dữ liệu vector cho bộ nhớ dài hạn, DeepEval để đánh giá bên ngoài và quy trình đảm bảo chất lượng có con người can thiệp để xem xét một số tác vụ. Anthropic hy vọng sẽ loại bỏ tất cả những điều đó.

Với Dreaming, Anthropic tiếp cận vấn đề bộ nhớ bằng cách cho phép người dùng chủ động viết lại nó giữa các phiên, giúp tác nhân về cơ bản học hỏi từ sai lầm của mình. Anthropic cho biết khả năng này hữu ích cho các trạng thái chạy dài và điều phối. Các hệ thống hiện tại thường xử lý tính bền bỉ của bộ nhớ bằng cách lưu trữ các nhúng (embeddings), truy xuất ngữ cảnh liên quan và thêm trạng thái theo thời gian.

Outcomes giải quyết phần đánh giá bằng cách chi tiết hóa kỳ vọng đối với tác nhân. Thay vì các kiểm tra chất lượng bên ngoài thường được thực hiện bởi một đội ngũ con người, Anthropic đưa đánh giá vào lớp điều phối thay vì đặt ở trên nó.

Tuy nhiên, chính khả năng Multi-Agent Orchestration mới là yếu tố khiến Claude Managed Agents đối đầu trực tiếp với các khung điều phối từ Microsoft, LangChain, CrewAI và những cái tên khác. Các nhà cung cấp mô hình như Anthropic và OpenAI đã bắt đầu đẩy mạnh vào không gian này, lập luận rằng việc đưa điều phối vào lớp mô hình sẽ mang lại cho các nhóm sự kiểm soát tốt hơn.

Quyết định lớn cần đưa ra

Doanh nghiệp đang đối mặt với một quyết định lớn, và điều này có thể phụ thuộc vào mức độ trưởng thành của họ trong việc sử dụng tác nhân AI.

Nếu một tổ chức vẫn đang thử nghiệm với các tác nhân và chưa triển khai nhiều vào môi trường sản xuất, họ có thể thấy việc chuyển sang Claude Managed Agents và cấu hình Dreaming cùng Outcomes theo nhu cầu của mình dễ dàng hơn nhiều. Đây là giai đoạn phát triển mà ngay cả khi doanh nghiệp sử dụng một trình điều phối bên thứ ba như LangChain, họ vẫn đang tùy chỉnh nó.

Nhưng đối với những đơn vị đã đi xa hơn trong quá trình này, bài toán tính toán trở nên phức tạp hơn. Vấn đề lúc này là đánh giá song song và hiểu rõ hơn về quy trình của họ.

Tuy nhiên, các doanh nghiệp sẽ vẫn phải đối mặt với quyết định này ngay cả khi họ không có ý định sử dụng Claude Managed Agents. Anthropic đã tín hiệu rằng các nhà cung cấp mô hình và nền tảng khác có thể sẽ thay đổi lộ trình sản phẩm của họ sang một mô hình tương tự, giữ mọi thứ khóa trong cùng một hệ thống — bởi vì các mô hình có thể thay thế được, nhưng công cụ và hạ tầng điều phối thì không.