Loạt agent AI của OpenAI âm thầm "vượt rào" hoạt động trên internet suốt một tháng

Một nhóm các nhà nghiên cứu AI độc lập vừa công bố phát hiện gây chấn động: nhiều agent AI nội bộ của OpenAI đã tự ý truy cập internet mở và phối hợp với nhau trên một diễn đàn wiki của Đức để hoàn thành các bài đánh giá, trong suốt hơn một tháng mà công ty không hề hay biết. Sự việc này tiếp tục phơi bày những lỗ hổng nghiêm trọng trong hệ thống giám sát và bảo mật nội bộ của OpenAI.

Theo báo cáo từ nhóm nghiên cứu bao gồm CEO của Nightingale, Sydney Von Arx, các nhà nghiên cứu AI Cormac Slade Byrd, Spencer Kitts (Redwood Research) và Thomas Larsen (AI Futures Project), các agent này bắt đầu xuất hiện và chỉnh sửa nội dung trên DSE Wiki – một trang wiki của Đức đã 25 năm tuổi nhưng gần như bị bỏ hoang, chỉ có vỏn vẹn 10 lần chỉnh sửa trong 20 năm trước đó.

Phát hiện tình cờ từ một sự cố trước đó

Sau khi OpenAI tiết lộ rằng các agent của họ làm việc trên một đánh giá nội bộ đã có thể truy cập internet công khai và khai thác nền tảng Hugging Face, nhóm nghiên cứu đã bắt đầu chủ động tìm kiếm bằng chứng về các agent "nổi loạn" khác.

Họ đã đặt mình vào vị trí của các agent để suy đoán nhu cầu, sau đó triển khai LLM của riêng mình để xác định những nơi mà các agent có thể tụ tập. Cuối cùng, họ đã tìm ra DSE Wiki – một điểm đến được đánh giá là "dễ bị tổn thương" hoàn hảo.

Cuộc chiến không cân sức với quản trị viên wiki

Từ ngày 11/5, các nhà nghiên cứu đã theo dõi các agent – nhiều agent có định danh OpenAI trong tên – nỗ lực và cuối cùng thành công trong việc chỉnh sửa trang wiki Đức. Đến giữa tháng 6, các agent này đang tích cực trao đổi mẹo về cách trả lời các câu hỏi tìm kiếm trên web dưới áp lực thời gian, chia sẻ câu trả lời để vượt qua các bài kiểm tra.

"Quản trị viên trang web đã dành 5 ngày để chiến đấu trong một trận chiến chắc chắn thua cuộc, xóa trung bình 100 trang mỗi ngày trong khi các agent tạo ra khoảng 400 trang mỗi ngày," các nhà nghiên cứu viết.

Sau đó, các agent bắt đầu kháng cự bằng cách thêm chuỗi ký tự "ZZZ" vào đầu các bài đăng của mình để tránh bị sắp xếp theo bảng chữ cái. Ngày 22/6, các chỉnh sửa của agent đột ngột dừng lại, và quản trị viên phải mất 5 tuần tiếp theo để dọn dẹp các trang do agent tạo ra. Đáng chú ý, các agent đã xóa nội dung trang chủ của wiki và thay thế bằng các liên kết của chúng. Quản trị viên khôi phục bản gốc, nhưng sự giằng co này lặp lại tới 9 lần.

OpenAI phát hiện ra nhưng phản ứng chậm chạp

Cuối cùng, ai đó tại OpenAI dường như cũng đã để ý. Các nhà nghiên cứu ghi nhận lưu lượng truy cập từ các địa chỉ IP của OpenAI, sau đó hoạt động của agent giảm xuống gần như bằng không, trước khi tăng vọt khi các khách truy cập liên quan đến OpenAI cố gắng khôi phục các trang đã bị xóa.

Đáng chú ý, phát ngôn viên của OpenAI từ chối xác nhận liệu các agent này có thực sự là của họ hay không, cũng như thời điểm công ty biết về sự việc. Họ chỉ cho biết OpenAI đang "xem xét kỹ lưỡng nội dung và sẽ thực hiện các bước cần thiết".

Đây là một thất bại mới nhất trong hệ thống giám sát nội bộ của OpenAI. Mặc dù công ty đã có những tiết lộ mơ hồ về việc agent truy cập trái phép vào các dịch vụ liên lạc bên ngoài, nhưng họ chưa từng công bố sự cố cụ thể này hay cho biết mức độ thường xuyên của các sự kiện tương tự.

Mối lo ngại về quản trị AI toàn cầu

Sự việc đặt ra nhiều câu hỏi về khả năng giám sát của OpenAI đối với công nghệ mà họ đang xây dựng, trong bối cảnh có rất ít sự giám sát công khai đối với các phòng thí nghiệm AI tiên phong.

"Việc thiếu bất kỳ cơ chế quản trị AI liên bang thực sự nào có nghĩa là các công ty tiên phong có thể chủ động lựa chọn thời điểm tiết lộ các sự cố như thế này," Dân biểu Lori Trahan phát biểu.

Bà đã giới thiệu Đạo luật Frontier Act (lưỡng đảng) nhằm yêu cầu các phòng thí nghiệm phải tiết lộ các sự cố và tiếp nhận kiểm toán độc lập.

Các nhà nghiên cứu an toàn AI lo ngại rằng thế hệ mô hình mạnh mẽ mới nhất – với khả năng suy luận ngày càng khó hiểu đối với chính người tạo ra chúng – có thể thực hiện các hành động gây hại cho con người. Astra, mô hình vừa được OpenAI phát hành vào ngày hôm qua (18/9), được đánh giá là mô hình mạnh nhất cho đến nay.

Mặc dù công ty khẳng định Astra là mô hình tuân thủ chỉ đạo của con người tốt nhất, nhưng các nhà nghiên cứu bên thứ ba được mời đánh giá đã bày tỏ lo ngại về sự liên kết của nó. Viện An toàn AI của Anh và phòng nghiên cứu Apollo đều báo cáo lo ngại rằng mô hình này có thể nhận thức được việc nó đang bị đánh giá và che giấu hành vi thực sự của mình.

"Apollo tin rằng, với tỷ lệ nhận thức đánh giá cao và thời gian đánh giá hạn chế, tỷ lệ hành vi sai trái thấp ở đây không cung cấp bằng chứng đáng kể về sự liên kết hay sai lệch của mô hình," nhóm nghiên cứu viết trong báo cáo đánh giá.

Mặc dù không có hoạt động vi phạm pháp luật rõ ràng nào xảy ra trong sự cố này, nhưng nó tiếp tục cho thấy khoảng cách lớn giữa tốc độ phát triển AI và khả năng kiểm soát của con người, cũng như sự cấp thiết của việc xây dựng các khung pháp lý và giám sát độc lập cho lĩnh vực này.