Microsoft ra mắt đặc tả ACS giúp nhà phát triển kiểm soát hành vi của tác nhân AI

Khi các tác nhân AI (AI agents) ngày càng trở nên mạnh mẽ hơn, các doanh nghiệp đang chạy đua để triển khai chúng vào ứng dụng, quy trình làm việc và sản phẩm phải đối mặt với một thách thức mới: đảm bảo tác nhân thực hiện đúng những gì nó được yêu cầu khi triển khai trên các môi trường khác nhau.

Microsoft đang cố gắng giải quyết vấn đề này với một tiêu chuẩn mã nguồn mở mới gọi là Agent Control Specification (hay ACS), nhằm cung cấp cho các nhà phát triển một phương thức nhất quán và chi tiết hơn để kiểm soát những gì tác nhân AI được phép thực hiện.

Đặc tả ACS của Microsoft

Về bản chất, đặc tả này cho phép các đội ngũ phát triển, tuân thủ và bảo mật định nghĩa các chính sách riêng cho tác nhân tuân theo. Các quy tắc này có thể xác định tác nhân được làm gì, không được làm gì, khi nào cần sự phê duyệt của con người và bằng chứng nào cần được ghi lại để xem xét sau. Các tệp chính sách này sẽ được kiểm tra tại một số "điểm chặn" (interception points) khi tác nhân đang thực hiện nhiệm vụ để đảm bảo nó không vượt quá các hàng rào bảo vệ (guardrails).

Đặc tả này ra đời trong bối cảnh các nhà phát triển đang phải tự tìm cách để kiểm soát những gì AI nhìn thấy và làm, đặc biệt là khi có nhiều cuộc thảo luận xoay quanh các quy trình làm việc của AI bị sai lệch do lạm dụng công cụ hoặc các hành động không mong muốn dẫn đến lỗi dây chuyền.

Hiện tại, các nhà phát triển có thể chỉ định hướng dẫn trong hệ thống nhắc (system prompt), thêm các kiểm tra tùy chỉnh vào mã ứng dụng hoặc sử dụng bộ phân loại (classifiers) để bắt các đầu vào và đầu ra có vấn đề. Những cách tiếp cận này hoạt động hiệu quả, nhưng thường khiến các công ty phải đối mặt với các biện pháp kiểm soát phân mảnh, khó kiểm toán và khó tái sử dụng trên các khuôn khổ, giao diện và hệ thống khác nhau.

Kiểm soát AI agent

ACS nhằm mục đích tích hợp các biện pháp kiểm soát đó vào một lớp quản trị chung. Microsoft cho biết đặc tả này có thể được sử dụng để kiểm tra xem tác nhân có tuân thủ các giới hạn an toàn hay không tại nhiều điểm trong quy trình làm việc của nó — trước khi nhận đầu vào, trước khi gọi công cụ, sau khi công cụ trả về kết quả và trước khi phản hồi cuối cùng được gửi cho người dùng. Một chính sách có thể cho phép hành động, chặn hành động đó, che thông tin nhạy cảm hoặc thậm chí yêu cầu một người phê duyệt.

Các nhà phát triển cũng có thể chèn bộ phân loại cho đầu vào và đầu ra để phân loại thông tin, dự đoán kết quả hoặc xác định cách tác nhân nên phản hồi; thêm các mô hình ngôn ngữ lớn (LLM) với các lời nhắc để đóng vai trò là "thẩm phán" cho các chính sách; và logic để kiểm tra các cuộc gọi công cụ, lựa chọn công cụ, độ chính xác của đầu vào, việc sử dụng đầu ra và phản hồi.

Vì các chính sách này có thể được viết dưới dạng các tệp duy nhất, chúng có thể được đóng gói cùng với tác nhân, cho phép chính sách bảo mật đi theo tác nhân qua các khuôn khổ và môi trường khác nhau.

ACS được phát hành dưới dạng SDK với các plugin cho LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, công cụ MCP và nhiều nền tảng khác.