Hacker thao túng ChatGPT và Gemini để dụ người dùng vào các trung tâm lừa đảo

Các mô hình ngôn ngữ lớn (LLM) như ChatGPT và Gemini đang trở thành công cụ đắc lực trong đời sống hàng ngày, nhưng cũng đồng thời mở ra một lỗ hổng bảo mật nghiêm trọng. Theo một bài viết trên Medium được chia sẻ rộng rãi, hacker đang tìm cách thao túng các trợ lý AI này để điều hướng người dùng đến các trung tâm lừa đảo trực tuyến.

Thủ đoạn thao túng AI ngày càng tinh vi

Theo phân tích từ bài viết gốc, kẻ tấn công không cần phải xâm nhập trực tiếp vào hệ thống của OpenAI hay Google. Thay vào đó, chúng khai thác cách các mô hình AI tổng hợp và trình bày thông tin.

Các kỹ thuật phổ biến bao gồm:

• Đầu độc dữ liệu huấn luyện: Đưa thông tin sai lệch vào các nguồn mà AI thường truy cập, khiến mô hình vô tình đề xuất nội dung độc hại.
• Tấn công prompt injection: Nhúng lệnh ẩn trong văn bản hoặc trang web để điều khiển hành vi của AI.
• Tối ưu hóa SEO độc hại: Đẩy các trang lừa đảo lên đầu kết quả tìm kiếm mà AI sử dụng để tổng hợp câu trả lời.

Khi người dùng hỏi AI về một dịch vụ, sản phẩm hay thông tin nào đó, mô hình có thể trả về liên kết hoặc gợi ý dẫn thẳng đến các trang web giả mạo, trung tâm lừa đảo hoặc dịch vụ viễn thông bất hợp pháp.

Vì sao người dùng dễ bị lừa?

Điểm nguy hiểm nằm ở chỗ người dùng thường đặt niềm tin lớn vào AI. Khi ChatGPT hay Gemini trả lời một cách tự tin và mạch lạc, ít ai kiểm chứng lại nguồn thông tin.

"Chúng ta đang chứng kiến sự dịch chuyển từ lừa đảo qua email sang lừa đảo qua AI. Nạn nhân không còn bị dụ bởi thư rác, mà bị dụ bởi chính công cụ họ tin tưởng." — Trích nhận định từ bài viết gốc.

Các trung tâm lừa đảo được nhắc đến thường hoạt động ở Đông Nam Á, nơi các đường dây buôn người và gian lận tài chính quy mô lớn đang gia tăng. Việc AI vô tình quảng bá cho các dịch vụ này khiến vấn đề trở nên phức tạp hơn.

Rủi ro đối với người dùng Việt Nam

Với người dùng Việt Nam, nguy cơ này đặc biệt đáng lưu ý khi:

• Nhiều người dùng AI để tra cứu thông tin việc làm, du lịch, đầu tư — những lĩnh vực mà lừa đảo xuyên biên giới thường nhắm tới.
• Các dịch vụ việc làm "lương cao, không cần kinh nghiệm" ở nước ngoài thường được quảng bá qua kênh trực tuyến và có thể xuất hiện trong câu trả lời của AI.
• Nhận thức về bảo mật AI tại Việt Nam còn hạn chế, trong khi đây là thị trường mà tội phạm mạng đang nhắm đến.

Biện pháp phòng tránh

Để giảm thiểu rủi ro, người dùng nên:

• Không tin tuyệt đối vào câu trả lời của AI, đặc biệt với các khuyến nghị về dịch vụ, sản phẩm hoặc cơ hội việc làm.
• Kiểm chứng chéo thông tin từ nhiều nguồn độc lập trước khi hành động.
• Cẩn trọng với liên kết do AI cung cấp, kể cả khi chúng trông có vẻ chính thống.
• Cập nhật kiến thức bảo mật và báo cáo các trường hợp nghi vấn.

Về phía các nhà phát triển, OpenAI và Google đang nỗ lực cải thiện cơ chế kiểm duyệt và phát hiện nội dung độc hại. Tuy nhiên, cuộc chạy đua giữa hacker và các ông lớn công nghệ vẫn chưa có hồi kết.

Kết luận

Sự việc này là lời cảnh tỉnh cho thấy AI không phải là "nguồn chân lý tuyệt đối". Khi các mô hình ngôn ngữ ngày càng được tích hợp sâu vào đời sống, việc trang bị tư duy phản biện và kiến thức bảo mật là yếu tố then chốt để bảo vệ bản thân khỏi những chiêu trò lừa đảo ngày càng tinh vi.