Google tiết lộ tội phạm đã sử dụng AI để xây dựng lỗ hổng zero-day nhằm tấn công hàng loạt

Google tiết lộ tội phạm đã sử dụng AI để xây dựng lỗ hổng zero-day nhằm tấn công hàng loạt

Google Threat Intelligence Group (GTIG) xác nhận đã phát hiện trường hợp thực tế đầu tiên tin tặc sử dụng trí tuệ nhân tạo để phát hiện và vũ khí hóa một lỗ hổng zero-day. Điều này cho thấy hoạt động hack có sự hỗ trợ của AI đã vượt xa các thủ thuật lừa đảo qua email đơn giản trước đây.

Cuộc tấn công bị chặn kịp thời

Google cho biết những kẻ xấu đã sử dụng AI để tạo ra các lỗ hổng zero-day, và một trong số đó đã suýt thoát ra ngoài tự nhiên trước khi công ty kịp ngăn chặn. Trong một báo cáo được chia sẻ với The Register, GTIG cho biết họ đã xác định được tin tặc sử dụng AI để tìm kiếm và khai thác một lỗ hổng trong một nền tảng quản trị dựa trên web mã nguồn mở phổ biến.

Lỗi này là một lỗ hổng bypass xác thực hai yếu tố (2FA), được phát triển bởi các tội phạm đang phối hợp trong một chiến dịch xâm nhập quy mô lớn. GTIG nhận định kẻ tấn công dường như đã sử dụng một mô hình AI để vừa xác định lỗi, vừa hỗ trợ chuyển đổi nó thành một đoạn mã khai thác khả dụng. Google đã làm việc với nhà cung cấp (ẩn danh) để vá lỗ hổng này một cách thầm lặng trước khi chiến dịch tấn công bắt đầu, giúp ngăn chặn hoạt động này trước khi nó lan rộng.

Dấu hiệu của AI trong mã độc

Công ty khẳng định không có sự tham gia của Gemini hay Anthropic’s Mythos trong quá trình này, nhưng đoạn mã khai thác trông giống như do máy tạo ra. Theo báo cáo, đoạn script Python bao gồm các "docstrings mang tính giáo dục", một điểm số CVSS bị ảo tưởng (hallucinated), và cấu trúc mã hóa chuẩn mực của sách giáo khoa — những đặc điểm chịu ảnh hưởng nặng nề từ dữ liệu đào tạo của LLM.

Google cho biết vấn đề bắt nguồn từ việc các nhà phát triển hard-coded một ngoại lệ tin cậy vào luồng xác thực, tạo ra một lỗ hổng cho phép kẻ tấn công bỏ qua các kiểm tra 2FA. Theo công ty, những lỗi logic cấp cao này chính là thứ mà các mô hình AI hiện đại ngày càng giỏi trong việc phát hiện.

"Trong khi các công cụ fuzzing và phân tích tĩnh được tối ưu hóa để phát hiện các điểm chìm (sinks) và sự cố, thì các LLM tiên phong lại xuất sắc trong việc xác định các loại lỗi cấp cao này và các bất thường tĩnh được hard-coded," báo cáo nhận định.

Cuộc đua bảo mật AI đã bắt đầu

John Hultquist, nhà phân tích chính của Google Threat Intelligence Group, cho rằng bất kỳ ai vẫn coi việc phát hiện lỗ hổng có hỗ trợ của AI là vấn đề tương lai thì đã bị tụt hậu.

"Có một quan niệm sai lầm rằng cuộc đua lỗ hổng AI sắp xảy ra. Thực tế là nó đã bắt đầu rồi. Với mỗi zero-day mà chúng tôi có thể truy ngược về AI, có lẽ còn có nhiều cái khác ngoài kia," Hultquist nói.

Các tác nhân đe dọa đang sử dụng AI để tăng tốc độ, quy mô và sự tinh vi của các cuộc tấn công. Nó cho phép họ kiểm tra hoạt động, duy trì sự tồn tại chống lại mục tiêu, xây dựng phần mềm độc hại tốt hơn và thực hiện nhiều cải tiến khác. Hultquist cảnh báo rằng dù các tác nhân nhà nước đang tận dụng công nghệ này, mối đe dọa từ tội phạm không nên bị đánh giá thấp.

Bối cảnh rộng hơn và cảnh báo

Báo cáo của Google gợi ý rằng trường hợp zero-day này chỉ là một phần của một bức tranh lớn hơn. GTIG cho biết nhóm tin tặc APT45 của Triều Tiên đã sử dụng AI để chạy qua hàng nghìn kiểm tra khai thác và mở rộng bộ công cụ của họ. Trong khi đó, các nhóm hoạt động liên kết với nhà nước Trung Quốc đang thử nghiệm các hệ thống AI để săn lỗ hổng và thăm dò mục tiêu tự động.

Google cũng mô tả các họ phần mềm độc hại được "nhồi" mã rác do AI tạo ra để gây nhầm lẫn cho các nhà phân tích, các cửa sau (backdoor) Android sử dụng API Gemini để tự điều hướng thiết bị bị nhiễm, và các hoạt động tác động của Nga ghép âm thanh do AI tạo ra vào các đoạn tin tức hợp pháp.

Tuy nhiên, Google nhận định đây vẫn là giai đoạn đầu vụng về. Các sai sót trong việc triển khai khai thác có thể đã làm gián đoạn kế hoạch của tội phạm lần này, nhưng điều đó có thể sẽ không còn đúng trong tương lai gần.