Kỹ thuật ASCII smuggling: 'Vũ khí' tấn công AI nay trở thành công cụ qua mặt bộ lọc spam

Một kỹ thuật từng được dùng để che giấu các đoạn mã độc trong các cuộc tấn công AI đang được giới spammer (kẻ gửi thư rác) áp dụng rộng rãi. Cách làm này giúp chúng qua mặt các bộ lọc email vốn được thiết kế để phát hiện và chặn các chiến dịch gửi thư hàng loạt không mong muốn.

ASCII smuggling là gì?

ASCII smuggling, hay còn gọi là buôn lậu ký tự ASCII, là một kỹ thuật khai thác một dải ký tự đặc biệt trong bảng mã Unicode. Kỹ thuật này được chú ý lần đầu cách đây hai năm trong lĩnh vực bảo mật trí tuệ nhân tạo (AI), cụ thể là để khiến các cuộc tấn công prompt injection trở nên khó bị phát hiện hơn.

Trong một cuộc tấn công prompt injection, kẻ xấu sẽ nhúng các chỉ dẫn độc hại vào email hoặc các nội dung không đáng tin cậy khác để mô hình ngôn ngữ lớn (LLM) xử lý. Thay vì viết các chỉ dẫn này bằng chữ thường, chúng được mã hóa bằng một dải thẻ Unicode đặc biệt. Ví dụ, thẻ điểm (code point) U+E0041 đại diện cho ký tự "A" và U+E0061 đại diện cho "a".

Không chỉ dùng để che giấu prompt injection

Điểm đặc biệt của khối 128 thẻ này là chúng mô phỏng gần như hoàn hảo một phần của bảng mã ASCII (American Standard Code for Information Interchange). Tuy nhiên, có một khác biệt lớn: các ký tự chúng mã hóa có thể được máy tính đọc được, nhưng theo thiết kế, gần như vô hình hoàn toàn với con người.

Bằng cách thể hiện các prompt độc hại bằng những thẻ này, LLM có thể nhận diện các chỉ dẫn, nhưng người đọc email sẽ không bao giờ nhìn thấy chúng.

Chính vì khả năng "ẩn thân" trước mắt người và chỉ "hiện hình" trước máy, kỹ thuật này đã nhanh chóng được giới spammer chú ý và áp dụng. Họ dùng nó để che giấu nội dung quảng cáo, đường dẫn lừa đảo hoặc các từ khóa nhạy cảm, khiến các hệ thống lọc thư rác dựa trên phân tích nội dung không thể phát hiện ra. Điều này giúp các chiến dịch spam lọt qua hàng rào bảo mật dễ dàng hơn.

Tác động đến người dùng và hệ thống email

Sự mở rộng của ASCII smuggling từ lĩnh vực tấn công AI sang spam email cho thấy một xu hướng phát triển chung của các kỹ thuật lừa đảo: luôn tìm cách thích nghi với các biện pháp phòng thủ mới. Các nền tảng email, bao gồm cả những dịch vụ phổ biến tại Việt Nam như Gmail, Outlook hay Zalo Mail, đang phải liên tục cập nhật thuật toán để đối phó với các dạng mã hóa này.

Điều này đồng nghĩa với việc người dùng cần cẩn trọng hơn với các email không rõ nguồn gốc, ngay cả khi nội dung của chúng trông có vẻ bình thường. Một email không có văn bản rõ ràng, hoặc chỉ có hình ảnh và liên kết, có thể là dấu hiệu của một chiến dịch spam sử dụng kỹ thuật này.