Google tiết lộ tội phạm đã sử dụng AI để xây dựng lỗ hổng zero-day nhằm tấn công hàng loạt

Google cho biết tội phạm mạng đã sử dụng trí tuệ nhân tạo (AI) để tạo ra các lỗ hổng zero-day, và công ty này tuyên bố một cuộc tấn công quy mô lớn đã bị ngăn chặn kịp thời trước khi lan rộng.

Trong một báo cáo được chia sẻ với The Register, Nhóm Tình báo Mối đe dọa của Google (GTIG) cho biết họ đã xác định được trường hợp thực tế đầu tiên mà các tác nhân đe dọa sử dụng AI để phát hiện và vũ khí hóa một lỗ hổng zero-day trong một chiến dịch khai thác quy mô lớn.

Lỗi bảo mật này là một lỗ hổng bypass xác thực hai yếu tố (2FA) trên một nền tảng quản trị dựa trên web mã nguồn mở phổ biến. Theo báo cáo, lỗ hổng này được phát triển bởi các tội phạm đang phối hợp trong một hoạt động xâm nhập quy mô lớn.

Dấu ấn của Trí tuệ Nhân tạo

GTIG nhận định rằng những kẻ tấn công dường như đã sử dụng một mô hình AI để vừa xác định lỗi vừa giúp biến nó thành mã khai thác khả dụng. Google đã làm việc với nhà cung cấp (tên không được tiết lộ) để vá lỗi lặng lẽ trước khi chiến dịch có thể bắt đầu đầy đủ.

Google khẳng định rằng không có sự tham gia của Gemini hay Anthropic’s Mythos, nhưng mã khai thác có vẻ như được tạo ra bởi máy móc. Theo báo cáo, đoạn script Python bao gồm những gì Google mô tả là "docstrings mang tính giáo dục", một điểm số CVSS bị ảo giác (hallucinated), và cấu trúc mã hóa trau chuốt theo kiểu sách giáo khoa — những đặc điểm chịu ảnh hưởng nặng nề từ dữ liệu đào tạo của các Mô hình Ngôn ngữ Lớn (LLM).

Google cho biết vấn đề bắt nguồn từ việc các nhà phát triển hard-code một ngoại lệ tin cậy vào luồng xác thực, tạo ra một lỗ hổng mà kẻ tấn công có thể khai thác để vượt qua các kiểm tra 2FA.

AI vượt trội trong việc tìm lỗi logic

Theo công ty, những sai sót logic cấp cao này chính là loại lỗi mà các mô hình AI hiện đại đang ngày càng xuất sắc trong việc phát hiện.

"Trong khi các công cụ fuzzing và phân tích tĩnh được tối ưu hóa để phát hiện các điểm sink và sự cố, thì các LLM tiên phong lại xuất sắc trong việc xác định các loại lỗi cấp cao này và các bất thường tĩnh được hard-code," báo cáo cho biết.

John Hultquist, nhà phân tích chính tại GTIG, cho rằng bất kỳ ai vẫn coi việc phát hiện lỗ hổng hỗ trợ bởi AI là một vấn đề trong tương lai thì đã bị tụt hậu.

"Có một quan niệm sai lầm rằng cuộc đua lỗ hổng AI sắp xảy ra. Thực tế là nó đã bắt đầu rồi. Với mỗi zero-day mà chúng tôi có thể truy ngược lại AI, có lẽ còn có nhiều cái khác ngoài kia," Hultquist nói.

Hultquist cũng lưu ý rằng các tác nhân đe dọa đang sử dụng AI để tăng tốc độ, quy mô và sự tinh vi của các cuộc tấn công. Nó cho phép họ kiểm tra hoạt động, duy trì sự hiện diện trên mục tiêu, xây dựng phần mềm độc hại tốt hơn và thực hiện nhiều cải tiến khác.

Bối cảnh rộng hơn

Báo cáo của Google gợi ý rằng trường hợp zero-day này chỉ là một phần của một bức tranh lớn hơn. GTIG cho biết nhóm tin tặc APT45 của Triều Tiên đã sử dụng AI để chạy qua hàng nghìn kiểm tra khai thác và mở rộng bộ công cụ của họ, trong khi các nhà khai thác liên kết đến nhà nước Trung Quốc đang thử nghiệm các hệ thống AI để săn lùng lỗ hổng và thăm dò mục tiêu tự động.

Google cũng mô tả các họ phần mềm độc hại được chèn thêm mã rác do AI tạo ra nhằm gây nhầm lẫn cho các nhà phân tích, các backdoor Android sử dụng API Gemini để tự điều hướng thiết bị bị nhiễm, và các hoạt động tác động của Nga ghép âm thanh do AI tạo ra vào các đoạn tin tức hợp pháp.

Tuy nhiên, Google nhận định rằng hiện tại vẫn có vẻ là giai đoạn đầu vụng về của công nghệ này. Công ty cho biết các sai sót trong việc triển khai khai thác có lẽ đã làm gián đoạn kế hoạch của tội phạm lần này, nhưng điều đó có thể sẽ không còn đúng trong tương lai gần.