Tội phạm mạng cũng "ngán" nội dung rác do AI tạo ra tràn ngập các diễn đàn

Lời phàn nàn này nghe có vẻ rất quen thuộc. "Tôi thất vọng vì các bạn đang cố gắng đưa rác thải AI vào trang web," một người dùng ẩn danh viết trong một tin nhắn trực tuyến. "Không ai yêu cầu điều này cả — chúng tôi muốn các bạn cải thiện trang web, ngừng thu phí cho các tính năng mới."

Tuy nhiên, đây không phải là một người dùng internet bình thường than phiền về việc AI bị ép buộc vào ứng dụng yêu thích của họ. Thay vào đó, họ đang phàn nàn về kế hoạch của một diễn đàn tội phạm mạng nhằm giới thiệu nhiều AI tạo sinh (generative AI) hơn. Giống như hàng triệu người khác, những kẻ lừa đảo, kẻ trục lợi và các hacker tầm thấp cũng đang cảm thấy khó chịu vì AI đang xâm lấn vào cuộc sống của họ và sự gia tăng của những nội dung "rác AI" chất lượng thấp được đăng tải trong các cộng đồng trực tuyến của họ.

"Nghịch lý thay, những kẻ lừa đảo cũng không thích điều này," Ben Collier, nhà nghiên cứu an ninh mạng và giảng viên cao cấp tại Đại học Edinburgh, cho biết. Trong khuôn khổ một nghiên cứu gần đây về cách tội phạm mạng tầm thấp sử dụng AI, Collier và các đồng nghiệp đã nhận thấy sự phản đối ngày càng tăng đối với việc sử dụng AI tạo sinh trong các diễn đàn tội phạm mạng ngầm và các nhóm hacker.

Trong giai đoạn bùng nổ và tạo tiếng vang lớn của AI tạo sinh trong vài năm qua, một số người đăng bài trên các diễn đàn hacker đã chuyển từ cái nhìn tích cực về khả năng hỗ trợ tấn công của AI sang sự hoài nghi lớn hơn về công nghệ này, theo nghiên cứu được thực hiện cùng với các nhà nghiên cứu từ Đại học Cambridge và Đại học Strathclyde.

Các nhà nghiên cứu đã phân tích 97.895 cuộc trò chuyện liên quan đến AI trên các diễn đàn tội phạm mạng kể từ khi ChatGPT ra mắt vào năm 2022 cho đến cuối năm ngoái. Họ phát hiện ra nhiều lời phàn nàn về việc mọi người đổ dồn vào đăng các "bài giải thích dạng gạch đầu dòng" về các khái niệm an ninh mạng cơ bản, than phiền về số lượng bài đăng chất lượng thấp, và lo ngại rằng tính năng tóm tắt tìm kiếm bằng AI của Google đang làm giảm lượng truy cập vào các diễn đàn này.

Trong nhiều thập kỷ, các bảng tin và chợ đen tội phạm mạng, thường có nguồn gốc từ Nga, đã cho phép những kẻ lừa đảo làm ăn cùng nhau. Đây là những nơi dữ liệu bị đánh cắp được giao dịch, các công việc hacker được quảng cáo, và những kẻ lừa đảo "chém gió" về đối thủ của mình. Mặc dù những kẻ lừa đảo thường cố gắng lừa lọc lẫn nhau, nhưng các diễn đàn này cũng có một cảm giác cộng đồng. Ví dụ, người dùng xây dựng uy tín dựa trên sự đáng tin cậy, và chủ sở hữu diễn đàn tổ chức các cuộc thi viết bài.

"Về bản chất, đây là những không gian xã hội. Họ thực sự ghét khi người khác sử dụng [AI] trên các diễn đàn," Collier nói. Ông cho biết động lực xã hội của các nhóm này có thể bị phá hỏng bởi những tội phạm mạng tiềm năng cố gắng xây dựng uy tín tốt hơn bằng cách đăng các bài giải thích về hacker do AI tạo ra. "Tôi nghĩ nhiều người trong số họ có thái độ lưỡng lự đối với AI vì nó làm suy yếu tuyên bố của họ rằng mình là một người có kỹ năng."

Các bài đăng trên Hack Forums — một không gian tự phong dành cho những người quan tâm đến việc thảo luận về hacking và chia sẻ các kỹ thuật — mà WIRED đã xem xét cho thấy sự khó chịu do mọi người tạo bài đăng bằng AI gây ra. "Tôi thấy rất nhiều thành viên sử dụng AI để tạo chủ đề/bài đăng của họ và điều này khiến tôi tức giận vì họ thậm chí không dành thời gian để viết một hai câu đơn giản," một người viết. Một người khác thẳng thắn hơn: "Đừng đăng những thứ rác rưởi do AI tạo ra nữa."

Trong một số trường hợp, Collier cho biết người dùng của nhiều diễn dàn dường như bị раздраж bởi các bài đăng AI vì họ muốn kết bạn. "Nếu tôi muốn nói chuyện với một chatbot AI, có rất nhiều trang web để tôi làm điều đó... Tôi đến đây để tương tác giữa người với người," một bài đăng được trích dẫn trong nghiên cứu cho biết.

Kể từ khi ChatGPT xuất hiện vào cuối năm 2022, đã có sự quan tâm đáng kể đến khả năng hacking bằng AI và cách công nghệ này có thể thay đổi tội phạm trực tuyến. Cả những hacker tinh vi lẫn những người kém năng lực hơn đều đang cố gắng sử dụng AI trong các cuộc tấn công của mình. Trong khi một số kẻ lừa đảo có tổ chức đã thúc đẩy hoạt động của mình với công nghệ hoán đổi khuôn mặt bằng AI ngày càng thực tế và các tin nhắn kỹ thuật xã hội được dịch bằng AI, thì nhiều sự chú ý lại tập trung vào khả năng viết mã độc và phát hiện lỗ hổng của AI tạo sinh.

"Các tác nhân đe dọa tinh vi hơn nhận biết những thiếu sót của các mô hình thương mại có các hàng rào an toàn (guardrails), và họ biết cách bẻ khóa (jailbreak) các câu lệnh đó," Ian Gray, phó chủ tịch bộ phận tình báo tại công ty bảo mật Flashpoint, nói, đề cập đến các cơ chế an toàn được đặt ra bởi OpenAI, Anthropic và Google. "Họ cũng thận trọng với các dự án do AI tạo ra trong các diễn đàn hoặc chợ đen — có những điểm yếu và lỗ hổng bảo mật, đôi khi làm lộ cơ sở hạ tầng bên dưới," Gray nói.

Flashpoint đã thấy các hacker gần đây đang thảo luận về các khả năng tiềm năng của Claude Mythos Preview, mô hình AI biên giới mới nhất của Anthropic, điều này đã gây hoảng loạn cho một số người trong ngành an ninh mạng. Một số tội phạm mạng cũng đã chê bai những người khác vì bị cáo buộc sử dụng AI trong các hoạt động hacking của họ — "tất cả những gì họ có thể làm là sử dụng AI," một nhóm nói, theo phân tích của Flashpoint.

Collier cho biết rằng cho đến nay, trong số những tội phạm mạng tầm thấp mà nghiên cứu của ông theo dõi — không phải là những hacker tinh vi hoặc được nhà nước bảo trợ — chưa có dấu hiệu rõ ràng nào về sự "gián đoạn thực sự" do AI gây ra. "Nó chưa làm giảm đáng kể rào cản kỹ năng để gia nhập,也未 dẫn đến sự gián đoạn nghiêm trọng đối với các mô hình hoặc thực tiễn kinh doanh đã được thiết lập," nghiên cứu cho biết. "Thay vào đó, tác động chính của nó là đối với các lĩnh vực đã được tự động hóa cao như lừa đảo SEO, bot mạng xã hội và một số hình thức lừa đảo tình cảm."

Mặc dù việc sử dụng AI trên các diễn đàn tội phạm mạng nhận được sự đón nhận lạnh nhạt, nhưng những người khác lại thấy tiềm năng. Một số người đăng trên Hack Forums đã nói rằng họ có thể chào đón một trợ lý AI sẽ "giúp" họ cấu trúc bài đăng của mình và cải thiện ngữ pháp, nhưng họ giới hạn ở việc không để một AI có thể đăng bài hoàn toàn thay họ. "Một trình tạo bài đăng bằng AI sẽ biến nơi này thành một diễn đàn rác rưởi nơi các AI nói chuyện với nhau," một người viết.

Trong khi đó, các nhà nghiên cứu tại Flashpoint đã phát hiện ra những kẻ hacker đang thảo luận về ý tưởng xây dựng một "chợ tội phạm mạng được tăng cường bởi AI", được quảng bá là một cách giúp mọi người mua dữ liệu bị đánh cắp và tài khoản trực tuyến nhanh hơn. Không phải ai cũng đồng ý. Như một người viết, "ĐÓ LÀ MỘT Ý TƯỞNG NGU NGỐC KHI ĐƯA AI VÀO CHỢ CỦA BẠN."