Agentforce Vibes 2.0 của Salesforce: Giải pháp cho vấn đề "quá tải ngữ cảnh" của AI agents

Khi nền tảng huy động vốn cho các startup VentureCrowd bắt đầu triển khai các tác nhân AI (AI agents) để viết mã, họ đã đạt được những bước tiến tương tự như các doanh nghiệp khác: chu kỳ phát triển giao diện (frontend) được rút ngắn tới 90% ở một số dự án.

Tuy nhiên, thành quả đó không đến dễ dàng và đòi hỏi nhiều thử nghiệm sai. Thách thức lớn đầu tiên của VentureCrowd xoay quanh chất lượng dữ liệu và ngữ cảnh. Diego Mogollon, Giám đốc Sản phẩm của VentureCrowd, chia sẻ với VentureBeat rằng: "Các tác nhân suy luận dựa trên bất kỳ dữ liệu nào chúng có thể truy cập tại thời điểm chạy". Do đó, chúng có thể đưa ra câu trả lời sai một cách tự tin vì kiến thức của chúng chỉ dựa trên ngữ cảnh được cung cấp.

Rào cản thứ hai, cũng giống như nhiều doanh nghiệp khác, là dữ liệu lộn xộn và quy trình không rõ ràng. Tương tự như vấn đề ngữ cảnh, Mogollon cho biết các tác nhân lập trình sẽ khuếch đại dữ liệu xấu, vì vậy công ty buộc phải xây dựng một cơ sở mã (codebase) có cấu trúc tốt trước tiên.

"Các thách thức hiếm khi nằm ở chính các tác nhân lập trình, mà nằm ở mọi thứ xung quanh chúng," ông Mogollon nhận định. "Đây là vấn đề ngữ cảnh nhưng lại ngụy trang dưới vỏ bọc của vấn đề AI, và đây là chế độ thất bại số một mà tôi thấy trong các triển khai tác nhân."

Trải nghiệm của VentureCrowd minh họa cho một vấn đề rộng lớn hơn trong phát triển tác nhân AI. Các mô hình không khiến các tác nhân thất bại, mà chúng bị choáng ngợp bởi quá nhiều ngữ cảnh và quá nhiều công cụ cùng một lúc.

Vấn nạn quá tải ngữ cảnh

Điều này xuất phát từ một hiện tượng gọi là Context bloat (quá tải ngữ cảnh), khi các hệ thống AI tích lũy ngày càng nhiều dữ liệu, công cụ hoặc hướng dẫn, khiến quy trình công việc trở nên phức tạp hơn.

Vấn đề nảy sinh vì các tác nhân cần ngữ cảnh để hoạt động tốt hơn, nhưng quá nhiều ngữ cảnh lại tạo ra nhiễu loạn. Một tác nhân phải sàng lọc càng nhiều ngữ cảnh thì càng tiêu tốn nhiều token (từ tính toán), công việc bị chậm lại và chi phí tăng lên.

Một cách để hạn chế context bloat là thông qua context engineering (kỹ thuật ngữ cảnh). Context engineering giúp các tác nhân hiểu các thay đổi mã hoặc yêu cầu pull requests và đồng bộ hóa chúng với nhiệm vụ của mình. Tuy nhiên, context engineering thường trở thành một nhiệm vụ bên ngoài thay vì được tích hợp sẵn trong các nền tảng lập trình mà doanh nghiệp sử dụng để xây dựng tác nhân.

Cách các nhà cung cấp nền tảng lập trình phản hồi

VentureCrowd đã dựa vào một giải pháp cụ thể để giúp vượt qua các vấn đề về context bloat trong việc triển khai tác nhân AI doanh nghiệp: Agentforce Vibes của Salesforce. Đây là một nền tảng lập trình nằm trong Salesforce và có sẵn cho tất cả các gói dịch vụ, bắt đầu từ gói miễn phí.

Gần đây, Salesforce đã cập nhật Agentforce Vibes lên phiên bản 2.0, mở rộng hỗ trợ cho các khung công việc bên thứ ba như ReAct. Quan trọng nhất đối với các công ty như VentureCrowd, Agentforce Vibes đã thêm các tính năng Abilities (Năng lực) và Skills (Kỹ năng), mà họ có thể sử dụng để định hướng hành vi của tác nhân.

"Để bạn dễ hình dung, toàn bộ nền tảng của chúng tôi, bao gồm cả frontend và backend, đều chạy trên hệ sinh thái Salesforce. Vì vậy, khi Agentforce Vibes ra mắt, nó khớp vào một môi trường mà chúng tôi đã hiểu rõ," Mogollon nói.

Phương tiếp cận của Salesforce không nhằm giảm thiểu ngữ cảnh mà các tác nhân sử dụng; thay vào đó, nó giúp doanh nghiệp đảm bảo rằng ngữ cảnh vẫn nằm trong các mô hình dữ liệu hoặc cơ sở mã của họ. Agentforce Vibes thêm khả năng thực thi bổ sung thông qua tính năng Skills và Abilities mới. Abilities định nghĩa những gì tác nhân muốn hoàn thành, còn Skills là các công cụ chúng sẽ sử dụng để đạt được mục tiêu đó.

Các nền tảng tác nhân lập trình khác quản lý ngữ cảnh theo những cách khác nhau. Ví dụ, Claude Code của Anthropic và Codex của OpenAI tập trung vào việc thực thi tự chủ, liên tục đọc tệp, chạy lệnh và mở rộng ngữ cảnh khi nhiệm vụ phát triển. Claude Code có một chỉ báo ngữ cảnh (context indicator) sẽ nén ngữ cảnh khi nó trở nên quá lớn.

Với những cách tiếp cận khác nhau này, mô hình chung là hầu hết các hệ thống đều quản lý ngữ cảnh ngày càng tăng cho các tác nhân, không nhất thiết là hạn chế chúng. Ngữ cảnh tiếp tục tăng lên, đặc biệt khi các quy trình công việc trở nên phức tạp hơn, khiến việc kiểm soát chi phí, độ trễ và độ tin cậy trở nên khó khăn hơn đối với các doanh nghiệp.

Ông Mogollon cho biết công ty ông chọn Agentforce Vibes không chỉ vì một phần lớn dữ liệu của họ đã có trên Salesforce, giúp việc tích hợp dễ dàng hơn, mà còn vì nó cho phép họ kiểm soát nhiều hơn ngữ cảnh mà họ cung cấp cho các tác nhân.

Những gì người xây dựng cần biết

Không có một cách duy nhất để giải quyết context bloat, nhưng mô hình hiện nay đã rõ ràng: nhiều ngữ cảnh không nhất thiết mang lại kết quả tốt hơn.

Bên cạnh việc đầu tư vào context engineering, các doanh nghiệp phải thử nghiệm phương pháp ràng buộc ngữ cảnh mà họ cảm thấy thoải mái nhất. Đối với các doanh nghiệp, điều đó có nghĩa là thách thức không chỉ là cung cấp cho tác nhân thêm thông tin — mà là quyết định loại bỏ thông tin gì.