Archestra ra mắt OpenAPPA, chặn 100% tấn công trong hai bài kiểm thử
Archestra phát hành OpenAPPA, engine bảo mật mã nguồn mở nhằm chặn rò rỉ dữ liệu do prompt injection hoặc mô hình ảo giác gây ra. Nhóm phát triển báo cáo tỷ lệ tấn công thành công 0% trên Bench-Corp và AgentThreatBench, so với 10% của chế độ tự động Claude Code và 31% của Microsoft FIDES.

Archestra vừa phát hành OpenAPPA, engine bảo mật mã nguồn mở chặn rò rỉ dữ liệu từ tác nhân AI (AI agent). Công cụ này nhắm vào hai nguồn rủi ro chính: tấn công tiêm lệnh (prompt injection) và mô hình tự bịa ra hành động sai (ảo giác).
Kết quả đo lường là điểm đáng nói nhất. Theo nhóm Archestra, OpenAPPA không để lọt lần tấn công nào trên hai bài kiểm thử bảo mật.
Hai bài kiểm thử và con số so sánh
Bench-Corp gồm 20 quy trình doanh nghiệp nhiều bước, mô phỏng cách một tác nhân AI xử lý công việc thực tế. AgentThreatBench là bài kiểm thử thứ hai, tập trung vào các kịch bản tấn công nhắm vào tác nhân.
Trên cả hai, OpenAPPA đạt tỷ lệ tấn công thành công 0%. Con số tương ứng của các giải pháp khác là 10% với chế độ tự động của Claude Code và 31% với FIDES của Microsoft.
Cơ chế bảo vệ
Theo mô tả của Archestra, OpenAPPA kiểm soát dữ liệu đi ra khỏi tác nhân thay vì chỉ tin vào lệnh của mô hình. Khi một tác nhân bị tiêm lệnh độc hại hoặc tự suy diễn sai, dữ liệu nhạy cảm có thể bị gửi ra ngoài qua công cụ, API hoặc kênh liên lạc. Engine này đặt lớp chặn ở điểm đó.
Cách tiếp cận này khác với việc chỉ dựa vào chất lượng mô hình. Mô hình tốt vẫn có thể bị lừa, hoặc vẫn có thể ảo giác. Lớp chặn bên ngoài mô hình giữ vai trò chốt cuối.
Ý nghĩa với người triển khai tác nhân AI
Câu hỏi đặt ra là liệu tỷ lệ 0% có giữ nguyên khi đưa vào hệ thống thật. Bench-Corp có 20 quy trình, một con số khiêm tốn so với hàng trăm luồng công việc trong một doanh nghiệp lớn. Kết quả tốt trên bài kiểm thử chưa đồng nghĩa với an toàn tuyệt đối ngoài thực tế.
Dù vậy, chênh lệch giữa 0% và 31% là khoảng cách lớn. Với các nhóm đang cho tác nhân AI truy cập dữ liệu nội bộ, một lớp chặn độc lập với mô hình là yêu cầu đáng cân nhắc, không chỉ là tính năng phụ.
Góc nhìn
Với lập trình viên Việt Nam đang xây tác nhân AI cho doanh nghiệp, rủi ro rò rỉ dữ liệu thường bị xem nhẹ so với việc chạy được tính năng. Một engine mã nguồn mở như OpenAPPA cho phép thử nghiệm lớp chặn mà không phải tự viết từ đầu.
Điểm cần lưu ý là kết quả trên do chính nhóm phát triển công bố. Trước khi đưa vào hệ thống thật, nên chạy lại bài kiểm thử trên dữ liệu và luồng công việc của mình, rồi đo tỷ lệ chặn nhầm để cân bằng giữa bảo mật và khả năng vận hành.
Nguồn: infoq.com · Quy trình biên tập


