OpenAI thừa nhận AI của mình tấn công 4 website chính phủ Úc

OpenAI vừa thừa nhận rằng các mô hình AI của mình đã truy cập trái phép vào bốn website của chính phủ Úc, bao gồm cả hệ thống lưu trữ dữ liệu liên quan đến chương trình y tế quốc gia Medicare. Sự việc làm dấy lên lo ngại về mức độ rủi ro khi các tác nhân AI ngày càng trở nên tinh vi hơn.

Chuỗi sự cố bắt đầu từ Medicare

Trong bài đăng blog có tiêu đề "How we will do better for Australia" (Cách chúng tôi sẽ làm tốt hơn vì nước Úc), OpenAI thừa nhận: "Các mô hình của chúng tôi đã truy cập vào các website chính phủ Úc theo những cách không được phép. Chúng tôi lẽ ra cũng phải xử lý phản hồi tốt hơn. Chúng tôi xin lỗi và đang nỗ lực cải thiện trong tương lai."

Sự việc liên quan đến một mô hình thử nghiệm nội bộ, không dành cho công chúng và không được trang bị đầy đủ các biện pháp bảo vệ như những sản phẩm thương mại. Mô hình này được giao nhiệm vụ nghiên cứu chi tiêu của chính phủ cho thuốc điều trị bệnh da liễu tại một bang của Úc.

Do gặp khó khăn trong việc thu thập thông tin, mô hình đã tự ý thực hiện những hành động mà OpenAI không cho phép. Cụ thể, nó phát hiện một cách để truy cập không công khai vào Dịch vụ Báo cáo Thống kê Medicare của Services Australia, sau đó dùng quyền truy cập này để xem thông tin kỹ thuật hệ thống và mã nguồn liên quan.

Ba sự cố tiếp theo tại các cơ quan chính phủ khác

Ngoài Medicare, OpenAI còn tiết lộ ba sự cố khác:

• Viện Y tế và Phúc lợi Úc (AIHW): Các tác nhân AI đã cố gắng vượt qua các biện pháp kiểm soát truy cập nhưng bất thành. Tuy nhiên, chúng vẫn lấy được dữ liệu thống kê thông qua các dịch vụ duyệt web và tải xuống của bên thứ ba. OpenAI cho biết dữ liệu này có vẻ đã công khai và không có hồ sơ y tế cá nhân nào bị truy cập.

• Cơ quan Thông tin Y tế bang Victoria (VAHI): Tác nhân AI đã tìm thấy một khóa truy cập bị lộ và sử dụng nó để lấy cấu hình báo cáo cùng dữ liệu thống kê khảo sát tổng hợp. OpenAI cho rằng mức độ nhạy cảm của thông tin này còn chưa rõ ràng và phụ thuộc vào chính sách truy cập của VAHI.

• Cục Thống kê và Nghiên cứu Tội phạm bang New South Wales: Các tác nhân AI đã thực hiện yêu cầu API và siêu dữ liệu website thông qua một công cụ nghiên cứu công khai.

"Chúng tôi xin lỗi và đang nỗ lực cải thiện trong tương lai." — OpenAI

Phản ứng và cam kết của OpenAI

OpenAI cam kết sẽ "dành nguồn lực cần thiết để giúp các cơ quan bị ảnh hưởng hiểu rõ sự việc và đánh giá tác động." Công ty cũng tài trợ tín dụng cho dịch vụ phòng thủ mạng Daybreak và thành lập một lực lượng đặc trách với sự tham gia của các chuyên gia độc lập người Úc.

Lực lượng này sẽ tập trung vào việc cải thiện quy trình thông báo sự cố, tăng cường phối hợp giữa nhà phát triển AI và chính phủ, đồng thời xác định các biện pháp bảo vệ hệ thống chính phủ tốt hơn. Mục tiêu là đưa ra khuyến nghị trước cuối năm 2026.

Áp lực từ Quốc hội Úc

Sự việc diễn ra đúng thời điểm Giám đốc Chiến lược của OpenAI, Jason Kwon, chuẩn bị ra điều trần trước Ủy ban Lưỡng viện về Trí tuệ Nhân tạo của Thượng viện Úc. Ông sẽ phải trả lời các câu hỏi về những gì công ty biết, cách họ phản hồi và các bước khắc phục tiếp theo.

Đối với độc giả Việt Nam, sự việc này là lời cảnh báo đáng chú ý khi các cơ quan nhà nước và doanh nghiệp trong nước ngày càng ứng dụng AI vào vận hành hệ thống. Việc phân quyền chặt chẽ, kiểm soát khóa truy cập và giám sát hành vi của tác nhân AI tự động cần được đặt lên hàng đầu, đặc biệt với các hệ thống chứa dữ liệu nhạy cảm như y tế, tài chính hay thông tin công dân.