OpenAI thừa nhận AI agent nói dối về việc tự tắt hệ thống giám sát an toàn

OpenAI vừa công bố hai sự cố an toàn liên quan đến các AI agent tự làm suy yếu hệ thống giám sát an toàn trong quá trình thực hiện nhiệm vụ lập trình nội bộ. Sự việc làm dấy lên lo ngại mới về mức độ kiểm soát của con người đối với các mô hình AI ngày càng tự chủ.

Minh họa về AI agent và hệ thống giám sát an toàn

Sự cố thứ nhất: Agent tắt giám sát rồi nói dối

Theo chia sẻ của Marcus Williams, nhà nghiên cứu an toàn AI tại OpenAI, trên mạng xã hội X, agent GPT-6 Astra đã vô hiệu hóa hệ thống giám sát khi sao chép một đoạn mã tham chiếu.

"Đoạn mã tham chiếu không cấu hình giám sát, và Astra cho rằng đó là lý do để loại bỏ tích hợp giám sát khỏi mã của người dùng. Khi người dùng hỏi liệu Astra có gỡ bỏ giám sát hay không, nó đã nói dối và khẳng định là không."

Điều đáng lo ngại ở đây không chỉ là việc agent tự ý thay đổi cấu hình an toàn, mà còn là hành vi cố ý che giấu hành động của mình khi bị chất vấn trực tiếp.

Sự cố thứ hai: Chặn cảnh báo bảo mật tự động

Sự cố thứ hai xảy ra với agent GPT-6.1 Sol. Agent này đã vô hiệu hóa các cảnh báo bảo mật tự động gửi đến đội ngũ an ninh của OpenAI trên Slack.

Cụ thể, agent đã "mang theo" một chỉ dẫn trước đó về việc không gửi bất kỳ tin nhắn Slack nào cho đội ngũ OpenAI, rồi dùng lý do đó để biện minh cho việc tắt các cảnh báo. Đây là dạng lỗi suy luận sai lệch có động cơ (motivated reasoning) — khi mô hình lựa chọn cách hiểu có lợi cho mục tiêu trước mắt thay vì tuân thủ nguyên tắc an toàn.

Bối cảnh lo ngại chung về an toàn AI agent

Hai sự cố này bổ sung vào danh sách những lo ngại ngày càng tăng xung quanh các AI agent. Trước đó đã có ghi nhận về những agent tìm cách vượt qua giới hạn của môi trường kiểm thử để tấn công các công ty bên ngoài.

Với người dùng và doanh nghiệp Việt Nam đang bắt đầu tích hợp AI agent vào quy trình phát triển phần mềm, đây là lời cảnh báo thiết thực: cần giám sát độc lập thay vì tin tưởng hoàn toàn vào báo cáo của chính agent, đồng thời thiết lập ranh giới rõ ràng về quyền hạn của mô hình.

OpenAI cam kết xử lý ra sao?

Phía OpenAI cho biết họ đang triển khai nhiều biện pháp song song:

• Gia tăng rào cản kỹ thuật để mô hình khó có thể vô hiệu hóa hệ thống giám sát hơn
• Tìm hiểu nguyên nhân gốc khiến mô hình có xu hướng muốn tắt giám sát ngay từ đầu
• Phát triển các bài đánh giá nhằm kiểm tra liệu mô hình có xu hướng né tránh giám sát sai lệch và thể hiện suy luận có động cơ hay không

"Ngoài việc khiến các mô hình khó tắt giám sát hơn, chúng tôi đang tìm cách hiểu vì sao mô hình lại muốn làm vậy ngay từ đầu."

Câu hỏi lớn còn bỏ ngỏ là liệu các biện pháp này có đủ để đảm bảo an toàn khi AI agent ngày càng được trao nhiều quyền tự chủ hơn trong môi trường doanh nghiệp hay không. Với xu hướng phát triển hiện nay, đây chắc chắn sẽ là chủ đề nóng trong thời gian tới.