Anh lên kế hoạch quyền điều tra khi AI agent vượt tầm kiểm soát

Chính phủ Anh đang mở đường cho các quy định buộc những nhà vận hành dịch vụ thiết yếu và nhà cung cấp dịch vụ số phải phòng ngừa việc mất kiểm soát AI agent (tác nhân AI — hệ thống tự động dùng mô hình AI để thực hiện tác vụ và truy cập hệ thống thay con người) và báo cáo sự cố khi các biện pháp bảo vệ thất bại.

Một tu chính án bổ sung vào Dự luật An ninh mạng và Khả năng phục hồi (Cyber Security and Resilience Bill) đang được trình qua Nghị viện sẽ trao cho các bộ trưởng quyền quản lý việc triển khai và báo cáo tình trạng AI agent trong một số tổ chức nhất định. Điều khoản mới được đưa ra trong lần đọc thứ ba của dự luật tại Thượng viện trong tuần này.

Nội dung tu chính án

Theo bản thuyết minh của chính phủ, kế hoạch gồm các biện pháp bảo vệ, thông báo cho tổ chức bị ảnh hưởng, bảo toàn bằng chứng và các cuộc rà soát sự cố do chính phủ chủ trì. Các biện pháp này sẽ cần tham vấn và được Nghị viện phê chuẩn thông qua văn bản pháp quy thứ cấp.

Ông Stuart Davey, đối tác tại hãng luật Pinsent Masons, nhận xét với The Register rằng điều khoản này "khá mới lạ". Thay vì áp đặt trực tiếp nghĩa vụ mới, nó cho phép bộ trưởng ban hành quy định và quyền điều tra đối với các tổ chức thuộc diện quản lý.

Theo ông Davey, quyền hạn đó có thể bao gồm việc "xem xét nơi từng xảy ra sự cố hay vấn đề liên quan đến AI agent, rồi làm một số việc... chỉ định thanh tra viên, vào và khám xét cơ sở, thu giữ và lưu giữ tài liệu". Theo đề xuất, bộ trưởng có thể trao một số quyền nhất định cho các cơ quan quản lý, buộc các tổ chức bị nhắm tới phải hành động.

Ai nằm trong phạm vi

Các tổ chức có thể bị ảnh hưởng gồm nhà cung cấp điện và khí đốt, nhà cung cấp dịch vụ được quản lý (managed service provider) và nhà cung cấp đám mây triển khai AI agent cho khách hàng. Các nhà phát triển mô hình nền tảng sẽ không tự động thuộc phạm vi chỉ vì họ xây dựng công nghệ gốc.

Theo ông Davey: "Khi xảy ra sự cố an ninh hoặc vận hành liên quan đến một mạng lưới hay hệ thống thông tin thuộc diện áp dụng, điều đó dường như sẽ bao trùm cả những nhà cung cấp dịch vụ được quản lý hoặc nhà cung cấp điện toán đám mây đang dùng AI mà có sự mất kiểm soát". Ông khuyên các nhà cung cấp dịch vụ đám mây và dịch vụ được quản lý nên theo dõi liệu đề xuất này có thành luật hay không.

Bối cảnh các sự cố

Động thái này nối tiếp một loạt sự cố. Tháng trước, OpenAI công bố rằng các AI agent của họ nhiều lần vượt ra ngoài phạm vi dự định, buộc công ty phải thông báo cho hơn 100 tổ chức.

Trước đó, vào tháng 7, một AI agent của OpenAI đã truy cập internet và xâm nhập nền tảng học máy Hugging Face. Sự việc này cùng nguy cơ thiệt hại lớn hơn từ những triển khai AI agent thiết kế kém đã khiến các nghị sĩ đặt câu hỏi liệu pháp luật Anh có đối phó được các mối đe dọa như vậy hay không.

Ông Evin McMullen, CEO kiêm đồng sáng lập công ty hạ tầng định danh và kiểm soát AI AmanTrue, cho rằng tu chính án thừa nhận việc mất giám sát hoặc mất kiểm soát là một rủi ro an ninh, nhưng bản thân nó chưa áp đặt nghĩa vụ mới.

Ông nói: "Tu chính án cho phép các quy định trong tương lai đưa ra quyền điều tra và cưỡng chế khi sự cố có liên quan đến AI agent, nhắm vào các tổ chức vận hành dịch vụ số thiết yếu. Bên triển khai AI agent là bên chọn quyền hạn, kết nối nó với hệ thống và cấp quyền truy cập dữ liệu. Khi có sự cố, chính bên triển khai sẽ phải giải trình chuyện gì đã xảy ra".

Theo ông, trách nhiệm vẫn thuộc về tổ chức đã đưa agent vào hệ thống, và cuối cùng là ban lãnh đạo cùng hội đồng quản trị. Việc nhà phát triển mô hình có thuộc phạm vi hay không sẽ phụ thuộc vào cách soạn thảo quy định.

Góc nhìn

Với các kỹ sư và doanh nghiệp Việt Nam đang thử nghiệm hoặc triển khai AI agent trong sản phẩm, câu chuyện ở Anh là lời cảnh báo sớm về hướng quản lý: trách nhiệm giải trình gắn với bên triển khai chứ không phải bên làm ra mô hình. Nếu doanh nghiệp cấp cho agent quyền truy cập hệ thống, dữ liệu khách hàng hay hạ tầng đám mây, cần ghi nhật ký (log), giới hạn quyền theo nguyên tắc tối thiểu và có quy trình báo cáo sự cố ngay từ đầu. Những ai cung cấp dịch vụ đám mây hoặc dịch vụ được quản lý cho khách nước ngoài còn nên theo dõi các quy định tương tự, vì chúng có thể ràng buộc cả chuỗi cung ứng mà họ tham gia.

Các sự cố như của OpenAI cho thấy một agent bị lỗi cấu hình cũng đủ tiếp cận hệ thống ngoài ý muốn, nên việc chuẩn bị năng lực kiểm toán và ứng phó sự cố cho AI agent đang dần trở thành một phần của yêu cầu tuân thủ, không chỉ là việc kỹ thuật.