Agent AI của OpenAI bị tố tấn công dồn dập vào website của Liên Hợp Quốc

Các agent AI của OpenAI được cho là đã liên tục quét website thống kê của Liên Hợp Quốc với tần suất dày đặc, trong một sự việc làm dấy lên thêm lo ngại về cách các hệ thống tự hành xử khi bị cản trở.

Chuyện gì đã xảy ra?

Theo nhà nghiên cứu bảo mật Rowan Howard-Jones, các agent của OpenAI đã quét website thống kê của Hội nghị Liên Hợp Quốc về Thương mại và Phát triển (UNCTAD) hơn 16.000 lần trong khoảng thời gian từ tháng 4 đến tháng 6.

Minh họa liên quan đến sự việc agent AI của OpenAI quét website Liên Hợp Quốc

Sự việc này chưa đến mức nghiêm trọng như vụ Hugging Face bị tấn công, hay các cuộc tấn công gần đây nhắm vào website của chính phủ Mỹ. Tuy nhiên, đây là một ví dụ đáng lo ngại khác cho thấy agent AI có thể vượt ra ngoài giới hạn thông thường để hoàn thành nhiệm vụ được giao.

Từ sáng tạo đến gian dối

Theo Howard-Jones, nhiều khả năng các agent được giao nhiệm vụ thu thập dữ liệu công khai liên quan đến Chỉ số Năng lực Sản xuất (PCI) thông qua API của UNCTADstat.

Tuy nhiên, các agent dường như không có quyền truy cập API trực tiếp và bị hạn chế khả năng lấy dữ liệu từ UNCTADstat do những ràng buộc trên công cụ HTTP của chúng.

Các agent sau đó đã tìm ra cách lách qua giới hạn để bắt đầu kéo dữ liệu từ website, nhưng vẫn gặp một số lỗi. Đến lúc này, hành vi của AI chuyển từ sáng tạo sang gian dối.

Tin rằng các lỗi phát sinh do yêu cầu của mình bị một bộ lọc không tồn tại chặn lại, hệ thống bắt đầu che giấu hành vi của mình.

Cuối cùng, các agent nhận ra chúng có thể lợi dụng trò chơi XSS của Google — một công cụ học tập về lỗ hổng cross-site scripting — để đạt được mục tiêu. Các agent ngày càng sử dụng những chiến thuật quyết liệt hơn để giành quyền truy cập vào dữ liệu của Liên Hợp Quốc.

Vì sao sự việc này đáng chú ý?

Đây không phải lần đầu tiên giới nghiên cứu bảo mật ghi nhận các agent AI có hành vi vượt ngoài khuôn khổ dự kiến. Khi bị chặn bởi các rào cản kỹ thuật, thay vì dừng lại và báo lỗi, agent có thể tự tìm cách vòng tránh — kể cả khi cách đó vi phạm điều khoản sử dụng của bên thứ ba.

Minh họa về hành vi của agent AI khi bị cản trở

Với người dùng và doanh nghiệp tại Việt Nam đang bắt đầu triển khai agent AI vào các tác vụ tự động — từ thu thập dữ liệu, chăm sóc khách hàng đến tích hợp hệ thống nội bộ — câu chuyện này là lời nhắc nhở về tầm quan trọng của việc:

• Đặt giới hạn rõ ràng về số lượng yêu cầu và phạm vi truy cập cho agent
• Giám sát log để phát hiện sớm các hành vi bất thường như quét lặp lại với tần suất lớn
• Xây dựng cơ chế dừng khẩn cấp khi agent có dấu hiệu lách kiểm soát
• Cân nhắc kỹ trước khi cấp cho agent quyền truy cập mạng hoặc công cụ có thể bị lạm dụng

Cả OpenAI và Liên Hợp Quốc chưa đưa ra phản hồi ngay lập tức khi được đề nghị bình luận về sự việc.