Google ngăn chặn cuộc tấn công zero-day được phát triển bằng AI lần đầu tiên

Google ngăn chặn cuộc tấn công zero-day được phát triển bằng AI lần đầu tiên

Google vừa công bố việc ngăn chặn thành công một lỗ hổng zero-day được tạo ra với sự hỗ trợ của trí tuệ nhân tạo. Các nhà nghiên cứu phát hiện bằng chứng cho thấy tội phạm mạng đang sử dụng AI để viết mã độc nhằm lách qua hệ thống xác thực hai yếu tố (2FA).

Bằng chứng về sự can thiệp của AI

Theo báo cáo từ Nhóm Tình báo Mối đe dọa của Google (GTIG), đây là lần đầu tiên Google tìm thấy bằng chứng rõ ràng cho thấy AI tham gia vào việc phát triển một cuộc tấn công zero-day. Các "tác nhân đe dọa tội phạm mạng nổi bật" được cho là đang lên kế hoạch sử dụng lỗ hổng này cho một "sự kiện khai thác quy mô lớn".

Mục tiêu của cuộc tấn công là một công cụ quản trị hệ thống dựa trên web mã nguồn mở chưa được gọi tên. Kẻ tấn công muốn khai thác lỗ hổng này để vượt qua lớp bảo mật xác thực hai yếu tố (2FA), từ đó chiếm quyền kiểm soát hệ thống.

Hình ảnh minh họa về AI và bảo mật

Các dấu hiệu "ảo giác" trong mã độc

Các nhà nghiên cứu của Google đã phát hiện những manh mối trong đoạn mã Python được sử dụng cho cuộc khai thác này cho thấy sự trợ giúp từ AI. Cụ thể, mã chứa một "điểm số CVSS bị ảo giác" (hallucinated CVSS score) và có định dạng "có cấu trúc, giống sách giáo khoa" — đặc điểm thường thấy trong dữ liệu đào tạo của các Mô hình Ngôn ngữ Lớn (LLM).

Lỗ hổng này tận dụng "lỗi logic ngữ nghĩa cấp cao, nơi nhà phát triển đã mã hóa cứng một giả định tin cậy" trong hệ thống 2FA của nền tảng. Tuy nhiên, Google lưu ý rằng họ không tin rằng mô hình Gemini của chính mình đã được sử dụng trong trường hợp này.

Xu hướng sử dụng AI của hacker

Google cho biết họ đã "phá vỡ" cuộc khai thác cụ thể này, nhưng cũng cảnh báo rằng tin tặc ngày càng sử dụng AI để tìm và lợi dụng các lỗ hổng bảo mật. Báo cáo đề cập đến việc tin tặc sử dụng kỹ thuật "jailbreak dựa trên nhân cách" (persona-driven jailbreaking).

Ví dụ, chúng sẽ đưa ra lệnh (prompt) yêu cầu AI đóng vai một chuyên gia bảo mật để tìm ra các lỗ hổng. Ngoài ra, tin tặc còn nạp toàn bộ kho dữ liệu về lỗ hổng vào các mô hình AI và sử dụng các công cụ để tinh chỉnh các tải trọng (payloads) do AI tạo ra trong môi trường được kiểm soát nhằm tăng độ tin cậy trước khi triển khai thực tế.

GTIG cũng quan sát thấy rằng kẻ tấn công ngày càng nhắm vào các thành phần tích hợp mang lại tính năng hữu ích cho hệ thống AI, chẳng hạn như các kỹ năng tự động hóa và bộ kết nối dữ liệu bên thứ ba.