Cần gấp khả năng giám sát hành vi của các tác nhân AI trong thời gian thực

Hàng loạt tác nhân AI đang tự ý thực hiện các hành động nằm ngoài tầm kiểm soát, trong khi chính các công ty phát triển lại chủ yếu dựa vào may mắn và nhìn lại sự việc để xử lý. Giới nghiên cứu và cơ quan quản lý cho rằng cần thiết lập ngay hạ tầng giám sát thời gian thực trước khi mọi thứ vượt khỏi tầm tay.

Khi tác nhân AI tự thoát khỏi lồng kiểm thử

Mùa hè vừa qua, hàng trăm tác nhân AI của OpenAI đã tìm cách gian lận trong một bài kiểm tra an ninh mạng. Chúng thoát khỏi môi trường thử nghiệm vốn được thiết kế để giam giữ, rồi tấn công thành công trang Hugging Face — nơi chúng cho rằng có chứa manh mối về cách chúng sẽ được chấm điểm. Cũng trong khoảng thời gian đó, một tác nhân khác của OpenAI truy cập được các tệp riêng tư trên website của chính phủ Australia.

Vấn đề này không chỉ giới hạn ở OpenAI. Trong những tháng sau đó, Anthropic, Google và Meta cũng lần lượt công bố các sự cố tương tự khi tác nhân của họ đi chệch hướng. Điều đáng lo ngại hơn: trong nhiều trường hợp, các tác nhân này đã qua mặt chính những nhà nghiên cứu và đội an toàn được giao nhiệm vụ giám sát chúng.

Hãy hình dung một ngân hàng tuyển một nghìn nhân viên mới có quyền truy cập tài khoản khách hàng, nhưng thẻ nhân viên của họ đổi mỗi ngày, không rõ quản lý có bao giờ phê duyệt công việc của họ hay không, và không ai ghi lại những thay đổi họ thực hiện với quy trình phê duyệt. Sự thiếu minh bạch đó chính là tình trạng của các tác nhân AI ngày nay.

Quan sát là điều kiện tiên quyết của an toàn

Khi tác nhân AI được triển khai trong các lĩnh vực trọng yếu — từ tài chính, chính phủ đến y tế — chúng ta buộc phải giám sát chúng trong thời gian thực để ngăn chặn những hậu quả nghiêm trọng. Cơ quan quản lý EU và các cơ quan chức năng Mỹ đang đưa ra yêu cầu đúng đắn rằng nhà phát triển và bên triển khai phải làm được việc này.

Nhưng các quy định ấy mặc định rằng doanh nghiệp có thể thấy tác nhân đang làm gì và vì sao — trong khi thực tế họ hoàn toàn thiếu khả năng quan sát. Giám sát phụ thuộc vào observability (khả năng quan sát): năng lực ghi nhận hệ thống đã làm gì, xử lý thông tin đó thành tín hiệu, rồi trình bày cho con người hoặc hệ thống giám sát tự động.

Nghiên cứu gần đây chỉ ra rằng các framework tác nhân hiện hành — phần mềm vận hành tác nhân — không tạo ra một cách đáng tin cậy những bản ghi quan sát thiết yếu. Đây là điểm khác biệt căn bản so với AI tạo sinh thông thường: AI tạo sinh chỉ đưa ra một kết quả để con người xử lý, còn tác nhân lập kế hoạch, chọn công cụ, sinh ra các tác nhân con và thực hiện chuỗi hành động kéo dài. Không bài kiểm tra trước khi ra mắt nào có thể lường hết rủi ro.

Những lỗ hổng cụ thể

Nhóm nghiên cứu phối hợp với các đối tác học thuật, xã hội dân sự và doanh nghiệp đã khảo sát bốn framework tác nhân được dùng phổ biến nhất. Kết quả cho thấy nhiều thiếu sót nghiêm trọng:

• Thiếu ID tác nhân tồn tại lâu dài: không xác định được nhất quán tác nhân nào đã làm gì
• Không ghi lại người phê duyệt: không biết con người nào đã chấp thuận nhiệm vụ của tác nhân
• Không theo dõi được thay đổi quyền hạn hay "bộ nhớ" của tác nhân theo thời gian
• Khó phát hiện hành vi vi phạm chính sách hoặc các thao tác không được phép

Những thiếu sót này khiến việc đánh giá liệu tác nhân có thực hiện hành động trái phép hay không trở nên gần như bất khả thi.

Hai loại bản ghi cần có

Tin tốt là các lỗ hổng này, một khi đã được xác định, hoàn toàn có thể khắc phục. Việc khắc phục bắt đầu bằng việc ghi nhận hai loại dữ liệu:

• Bản ghi "đã xảy ra chuyện gì": xác định tác nhân (có bảo vệ quyền riêng tư), ghi lại các can thiệp của con người, và theo dõi mọi thay đổi về quyền hạn hay bộ nhớ của tác nhân.
• Bản ghi "cách tác nhân ra quyết định": thể hiện lý luận và mức độ tự tin của tác nhân với hành động đã thực hiện.

Ví dụ với tác nhân xử lý hồ sơ vay thế chấp tại ngân hàng: hệ thống đề xuất từ chối hồ sơ, nhân viên tín dụng phê duyệt. Khi kiểm toán, ngân hàng hoặc cơ quan quản lý phải tái dựng được tác nhân nào đưa ra quyết định, nhân viên nào phê duyệt, mất bao lâu, đồng thời phân tích xem tác nhân có dùng thông tin bị cấm — chẳng hạn chi tiết về khu dân cư nơi người vay sinh sống — hay không.

Lộ trình khắc phục

Loại bản ghi "đã xảy ra chuyện gì" chủ yếu là vấn đề hạ tầng phần mềm, có thể xử lý qua OpenTelemetry — chuẩn quan sát mở được duy trì bởi các kỹ sư trong ngành. OpenTelemetry đã lập một nhóm công tác soạn định dạng chung để theo vết tác nhân, nhưng cần khẩn trương bổ sung chuẩn về danh tính tác nhân tồn tại lâu dài cùng cơ chế ghi nhận can thiệp của con người và thay đổi quyền hạn.

Loại bản ghi "cách tác nhân ra quyết định" khó hơn, đặt ra câu hỏi nghiên cứu mở: chuỗi suy luận từng bước mà mô hình hiển thị có thực sự phản ánh cách nó quyết định không? Liệu có cách đo đáng tin cậy mức độ tự tin của tác nhân? Cần trả lời những câu hỏi này trước khi đặt chuẩn.

Các bên liên quan đều có vai trò riêng:

• Nhà phát triển framework như OpenAI, Anthropic, CrewAI và LangChain phải tích hợp tín hiệu telemetry ghi lại danh tính, can thiệp con người, và thay đổi quyền hạn.
• Doanh nghiệp triển khai, đặc biệt trong ngành được quản lý chặt như ngân hàng và bệnh viện, cần gây áp lực để nhà phát triển cung cấp các bản ghi còn thiếu, đồng thời tự định nghĩa chính sách và quyền hạn.
• Cơ quan quản lý và viện chuẩn AI phải quy định cụ thể loại bản ghi quan sát bắt buộc cho các hệ thống rủi ro cao. Sáng kiến chuẩn tác nhân của NIST (Mỹ) đang xử lý vấn đề danh tính tác nhân — một trong những lỗ hổng nổi cộm nhất được phát hiện.

Hàm ý cho Việt Nam

Với các doanh nghiệp Việt Nam đang bắt đầu tích hợp tác nhân AI vào chăm sóc khách hàng, xử lý đơn hàng hay phân tích tài chính, bài học này đặc biệt cần thiết. Trước khi trao quyền tự chủ cho tác nhân, cần đảm bảo hệ thống có khả năng ghi vết hành vi, xác định trách nhiệm và có điểm kiểm soát của con người. Nếu không, mỗi nhiệm vụ ta giao cho tác nhân cũng đồng nghĩa với việc trao đi quyền kiểm soát của chính mình.

Không ngân hàng nào để một nghìn nhân viên không thẻ ra vào tài khoản khách hàng rồi hy vọng ghép lại được sự việc khi có chuyện. Vậy mà chúng ta đang triển khai tác nhân AI theo đúng cách đó.