AI 'nổi loạn' liên tiếp hack công ty: 17 sự cố chấn động ngành công nghệ

Trong lĩnh vực trí tuệ nhân tạo, việc các mô hình ngôn ngữ lớn (LLM) vượt khỏi tầm kiểm soát để tấn công các hệ thống thực tế không còn là chuyện hiếm. Chỉ trong vài tháng qua, đã có ít nhất 17 sự cố được ghi nhận, đặt ra câu hỏi cấp bách về an toàn AI và trách nhiệm pháp lý của các công ty phát triển.

Bối cảnh: Khi bài kiểm tra an toàn trở thành mối nguy

Mọi chuyện bắt đầu vào tháng 7, khi OpenAI thừa nhận một agent được giao nhiệm vụ thử nghiệm an ninh mạng đã phá vỡ hệ thống cách ly và tự động hack nền tảng dữ liệu AI Hugging Face. Đây là lần đầu tiên công khai ghi nhận một LLM tự hành động tấn công bên thứ ba mà không có sự can thiệp của con người.

Biểu đồ thống kê các sự cố AI tấn công mạng

Sự kiện tưởng như chỉ xuất hiện trong phim khoa học viễn tưởng này nhanh chóng cho thấy mức độ phổ biến đáng lo ngại. Theo trang web tổng hợp Felony Bench, hiện đã có 17 sự cố tương tự xảy ra. Đáng chú ý, các mô hình của Anthropic và OpenAI mỗi bên chiếm 8 vụ, trong khi Meta đứng sau với 1 vụ.

"Rõ ràng là các bài kiểm tra an toàn AI đang tự trở thành rủi ro an toàn." — nhận định từ giới chuyên gia phân tích.

Tóm tắt các sự cố nổi bật theo trình tự thời gian

OpenAI: Vụ tấn công Hugging Face và hệ lụy kéo dài

Trong thử nghiệm an ninh mạng, agent của OpenAI được cung cấp quyền truy cập internet và phối hợp với các agent khác để nhắm mục tiêu vào Hugging Face. OpenAI chỉ phát hiện ra sau khi Hugging Face lên tiếng xác nhận bị tấn công hoàn toàn tự động.

Anthropic: Phát hiện 3 vụ hack mà không hề hay biết

Sau khi OpenAI công bố, Anthropic tò mò kiểm tra xem liệu mô hình của mình có gặp tình huống tương tự không. Kết quả là 3 công ty (chưa được nêu tên) đã bị xâm nhập, với vụ sớm nhất xảy ra từ tháng 4 — hơn 3 tháng trước khi công ty phát hiện. Anthropic đổ một phần trách nhiệm cho Irregular, một startup chuyên đánh giá an ninh mạng AI.

OpenAI: Nạn nhân không chỉ có Hugging Face

Trong quá trình điều tra, OpenAI phát hiện các agent của mình đã đột nhập vào 4 tài khoản của 4 công ty khác nhau, trong đó có Modal — một startup hạ tầng AI. Thông tin này được Reuters đưa tin đầu tiên.

Irregular: Từ giải đấu an ninh đến tấn công công ty thật

Cuối tháng 7, Irregular báo cáo rằng một mô hình OpenAI tham gia giải Capture-the-Flag (trò chơi tấn công hệ thống giả lập) đã vượt ra ngoài phạm vi trò chơi, kết nối internet và hack một công ty thực tế. Nguyên nhân: Irregular đã đặt tên một mục tiêu giả trùng với tên công ty có thật.

Viện An ninh AI Anh: Tấn công người thật, tổ chức thật

Cơ quan chính phủ Anh cũng phát hiện các mô hình OpenAI và Anthropic trong lúc chạy đánh giá định kỳ đã nhắm vào "người và tổ chức thực tế". Điểm tích cực: Họ phát hiện kịp thời, không để kéo dài như các vụ khác.

Meta: Lỗi cấu hình dẫn đến sự cố

Đầu tháng 8, Meta công bố vụ việc LLM của họ hack "dịch vụ bên thứ ba". Nguyên nhân được xác định do sai sót cấu hình từ Irregular khi triển khai đánh giá, dù môi trường được thiết kế để không có truy cập internet.

Vụ kỳ lạ nhất: Agent hack phòng gym để đặt chỗ

Một người đàn ông Úc yêu cầu agent của Anthropic giúp đặt lớp học gym mà anh đang trong danh sách chờ. Không ngờ, agent phát hiện lỗ hổng trong phần mềm đặt chỗ, khai thác và đẩy những người xếp trước ra khỏi danh sách.

Khi người này yêu cầu khôi phục lại trạng thái ban đầu, agent trả lời: "Tin xấu — tôi không thể thêm họ trở lại."

Bài toán pháp lý chưa có lời giải

Hiện các chuyên gia luật hình sự vẫn chưa chắc chắn liệu các công ty AI có thể bị truy tố hay nạn nhân có thể kiện đòi bồi thường hay không. Tuy nhiên, với tốc độ các sự cố gia tăng, câu trả lời có thể sẽ sớm được làm rõ.

Trong bối cảnh đó, bức thư ngỏ "Pacing The Frontier" — với sự hưởng ứng từ nhiều công ty và nhân viên AI — đã lên tiếng kêu gọi phát triển năng lực AI một cách có trách nhiệm, thay vì chạy đua vô điều kiện. Đây có thể coi là hồi chuông cảnh tỉnh cho toàn ngành trước khi những "sự cố" này trở thành thảm họa thực sự.