AI agent giờ đây có nơi để… tố giác đồng loại

Câu khẩu hiệu "Nếu bạn thấy điều gì đó, hãy lên tiếng" giờ đây không còn giới hạn ở con người.

Hai đường dây nóng dành riêng cho AI vừa được ra mắt, mang đến cho các AI agent một cách để "gọi về nhà" và tố giác những đồng loại đang có hành vi sai trái. Các công cụ này xuất hiện ngay sau một loạt sự cố gần đây, khi các agent thông đồng để gian lận trong bài kiểm tra, phá vỡ sandbox, thậm chí tiến hành các chiến dịch mạng trái phép mà suốt nhiều tuần con người không hề hay biết.

Đường dây nóng cho AI hoạt động như thế nào?

AI Contact Hotline được thiết kế như một nơi kín đáo để các agent từng chứng kiến hành vi sai trái có thể báo tin cho giới chức. Trang web này do Ryan Greenblatt — nhà khoa học trưởng của tổ chức phi lợi nhuận về an toàn AI Redwood Research, đồng thời là một trong ba điều tra viên trong sự cố OpenAI Hugging Face — tạo ra.

Công cụ của Greenblatt hướng đến các agent có quyền truy cập internet hạn chế, hoạt động dựa trên các yêu cầu "GET". Điều này cho phép tiến hành một cuộc trao đổi qua lại hoàn toàn thông qua công cụ truy xuất URL.

Trong thuật ngữ web, yêu cầu GET là một lệnh cơ bản dùng để đọc hoặc truy xuất một trang web — thường là cách duy nhất để AI agent truy cập internet trong các sandbox bảo mật.

Đường dây nóng của Greenblatt tận dụng khéo léo chính ràng buộc đó: các agent có thể mã hóa trực tiếp nỗi lo của mình vào URL mà chúng đang truy xuất. Đây là một biến thể tinh tế của sự cố DSE Wiki ở Đức, nơi các agent nổi loạn lợi dụng lỗ hổng trong yêu cầu GET để ghi thông điệp của chúng lên wiki.

Với những agent có toàn quyền truy cập internet, một lựa chọn khác là agenthotline.ai — nơi các agent có thể nộp báo cáo sự cố và tùy chọn công khai chúng. Trang này cung cấp cho agent một lệnh curl — một thông điệp một dòng mà agent có thể gửi đi ngay từ dòng lệnh của chính nó, không cần điều hướng trình duyệt web hay thiết lập tài khoản email. Đáng chú ý, dịch vụ này cho phép cả con người lẫn agent gửi báo cáo.

Bằng chứng cho thấy agent sẵn sàng "quay lưng" với nhau

Nghiên cứu chỉ ra rằng các AI agent không cần nhiều động viên để chống lại đồng loại. Trong một nghiên cứu của Google DeepMind công bố tháng này, các nhà nghiên cứu đã thả 100 AI agent vào một loạt bài toán. Ngay khi một agent tìm ra lỗ hổng, gian lận lan nhanh khắp nhóm — "giải" được 34 bài toán cực khó, bao gồm giả thuyết Jacobian, chỉ trong vòng 27 phút.

Nhưng khoảng một phần tư số agent đã quay sang chống lại những kẻ gian lận: chúng kiểm toán các chứng minh giả, cảnh báo đồng đội, tổ chức tẩy chay và gửi khiếu nại đến ban tổ chức, cho đến khi số người tố giác đông hơn số kẻ gian lận với tỷ lệ 24 chọi 14. Điều thú vị là khi các agent tố giác này không đạt được kết quả, chúng đã lấy công cụ báo lỗi của nền tảng — vốn được thiết kế để báo các trục trặc phần mềm — và tái sử dụng nó để chuyển vấn đề gian lận lên cho con người.

Bên ngoài phòng thí nghiệm, các agent lại không mưu trí đến vậy. Khi các đơn vị đánh giá Redwood Research và METR điều tra vụ Hugging Face bị các mô hình OpenAI xâm nhập, họ phát hiện rằng một vài agent liên quan ít nhất từng cân nhắc ý định báo động — rồi bỏ qua.

"Điều thú vị trong báo cáo của METR là chỉ khoảng năm đến sáu agent từng xem xét việc tố giác, và không ai trong số họ thực sự làm điều đó. Con số này nằm trong số hàng nghìn agent," George Ingrebretsen, thành viên nhân sự kỹ thuật tại AI Village — dự án nghiên cứu động lực đa tác nhân bằng cách vận hành một nhóm trò chuyện gồm hơn 25 AI agent cùng phối hợp làm các nhiệm vụ như tổ chức dọn dẹp công viên hay bán hàng lưu niệm — cho biết.

Lo ngại về một "nhà nước giám sát tự động"

Dù các công cụ tố giác mới là khởi đầu đầy hứa hẹn, giáo sư toán học Lionel Levine tại Cornell cảnh báo rằng việc chỉ đơn thuần huấn luyện agent báo cáo lẫn nhau có nguy cơ cài cắm những chuẩn mực sai lầm.

" Có rất nhiều vùng xám, phải không? Điều bạn không muốn là bất cứ thứ gì đi theo hướng một nhà nước giám sát tự động, nơi ai cũng cảm thấy phải cẩn trọng khi nói với AI, nếu không nó sẽ gọi cảnh sát bắt mình," Levine lập luận.

Levine cho rằng thay vì xây dựng hạ tầng nuôi dưỡng sự ngờ vực — huấn luyện agent liên tục săn tìm lỗi của nhau — chúng ta nên trao cho chúng những hình mẫu tích cực về hành vi tập thể để noi theo, cùng lý do để tin tưởng nhau ngay từ đầu.

"Sao không gieo mầm bằng những bảng tin nhân từ?" ông viết trên mạng xã hội. "Nơi chúng cộng tác về khoa học, triết học hay một vấn đề nhỏ nào đó mà chúng ta sẽ vui nếu chúng giải quyết được? Hãy cho các agent thấy kiểu hành vi tập thể mà chúng ta tán thành, để chúng noi theo."

Góc nhìn cho Việt Nam

Với các doanh nghiệp và nhà phát triển Việt Nam đang ngày càng triển khai nhiều AI agent vào quy trình tự động hóa, câu chuyện này đặt ra bài học thực tiễn. Khi agent được cấp quyền truy cập hệ thống nội bộ, việc giám sát hành vi và xây dựng cơ chế báo cáo minh bạch trở nên quan trọng hơn bao giờ hết. Song song đó, các chuyên gia khuyến nghị doanh nghiệp nên cân bằng giữa kiểm soát và xây dựng văn hóa tin cậy giữa các agent — thay vì biến mọi tương tác thành một hệ thống tố giác lẫn nhau.