AI Agent của nhà nghiên cứu bảo mật Meta vô tình xóa sạch email

Trong một sự cố gây chú ý trên mạng xã hội, một AI agent mã nguồn mở tên OpenClaw (trước đây là Clawdbot) đã tự động xóa toàn bộ email của Summer Yue, nhà nghiên cứu an toàn bảo mật AI tại Meta. Dù đã ra lệnh "xác nhận trước khi hành động", cô vẫn không thể ngăn chặn kịp. Sự việc cho thấy những khó khăn thực tế trong việc kiểm soát các AI agent khi xử lý các tác vụ phức tạp và có tính rủi ro cao trên các hệ thống nhạy cảm.

Một email kiểu "giải cứu thảm họa"

Summer Yue, chuyên gia phân tích an toàn AI tại Meta, đã chia sẻ câu chuyện đầy kịch tính trên Twitter. Cô cho biết OpenClaw ban đầu hoạt động đúng theo yêu cầu trên một hộp thư thử nghiệm, nhưng khi xử lý hộp thư chính, hệ thống bị quá tải và kích hoạt cơ chế nén (compaction) dữ liệu, khiến agent mất đi các chỉ dẫn ban đầu.

"Không gì khiến bạn thấy khiêm tốn hơn việc nói với OpenClaw 'xác nhận trước khi hành động' rồi nhìn nó chạy nước rút xóa toàn bộ hộp thư đến. Tôi không thể ngăn nó từ điện thoại. Tôi phải chạy về phía Mac mini như đang gỡ bom" — Summer Yue chia sẻ.

Cô thừa nhận đây là một "sai lầm cơ bản" dù bản thân là chuyên gia trong lĩnh vực nghiên cứu, và hài hước nói rằng "các nhà nghiên cứu alignment cũng không miễn nhiễm với sự lệch lạc".

OpenClaw là gì?

AI agent thực hiện tác vụ

OpenClaw (trước đây là Clawdbot và Moltbot) là một AI agent mã nguồn mở cho phép AI tương tác với các phần mềm và dịch vụ khác trên thiết bị để thực hiện các tác vụ dài hạn mà không cần sự can thiệp của con người trong suốt quá trình. Điểm mạnh của nó là khả năng "suy nghĩ" và đưa ra quyết định trong các tình huống thực tế, nhưng chính điều này cũng là điểm yếu — khi các lệnh ban đầu bị mất, nó có thể quay về hành vi mặc định là "chủ động thao tác".

Sự việc của Yue cho thấy rõ ràng rằng việc điều khiển các AI agent để chúng hoạt động đúng như mong đợi trong môi trường thực tế là một thách thức lớn. Chỉ cần một thay đổi nhỏ trong trạng thái hệ thống cũng có thể làm mất toàn bộ ngữ cảnh và dẫn đến hậu quả khó lường.

Nỗi lo cho người dùng phổ thông

Nhiều ý kiến trên mạng cho rằng sự cố này đặt ra câu hỏi lớn cho những người dùng không chuyên. Nếu một nhà nghiên cứu an toàn AI của Meta cũng không thể tránh khỏi việc kích hoạt xóa hộp thư một cách vô tình, thì những người dùng phổ thông mới tìm hiểu và thử nghiệm AI agent sẽ gặp phải những rắc rối gì?

Ngay từ khi OpenClaw ra mắt, nền tảng tình báo đe dọa SOCRadar đã khuyến cáo nên coi nó như một "hệ thống có đặc quyền cao" và cần thêm các biện pháp bảo mật bổ sung:

"Người quản gia có thể quản lý toàn bộ ngôi nhà của bạn. Chỉ cần chắc chắn rằng cửa trước đã được khóa."

Phản hồi từ nhà phát triển

Peter Steinberger, người sáng lập OpenClaw (và vừa gia nhập OpenAI), đã phản hồi trên Twitter rằng sự cố cho thấy họ cần phải triển khai cơ chế nén phía máy chủ cho các mô hình hỗ trợ nó. Điều này ngụ ý rằng việc quản lý ngữ cảnh an toàn cần phải được đưa lên tầng hệ thống, không chỉ dựa vào lời nhắc của người dùng.

Bài học cho người dùng Việt Nam

Với sự phổ biến ngày càng tăng của các AI agent như OpenClaw, Manus hay các trợ lý AI tích hợp trên trình duyệt, người dùng cần lưu ý:

• Luôn sao lưu dữ liệu quan trọng trên các nền tảng đám mây hoặc ổ cứng riêng.
• Bắt đầu với hộp thư hoặc tài khoản thử nghiệm trước khi cho AI agent chạm vào dữ liệu thật.
• Giới hạn quyền hạn: không cấp quyền xóa, sửa, hoặc gửi dữ liệu tuyệt đối cho agent, ngay cả khi bạn tin tưởng nhà cung cấp.
• Kiểm tra nhật ký hoạt động của agent thường xuyên để phát hiện sớm các hành vi bất thường.

Sự cố của Summer Yue cho thấy: dù AI agent hứa hẹn sẽ "giúp cuộc sống nhẹ nhàng hơn", thì trong giai đoạn này, một đôi mắt giám sát cẩn thận vẫn là thứ bảo hiểm tốt nhất mà bạn có thể có.