Các bot AI tên Timmy, Ren và Jackie đang tràn ngập mạng xã hội bằng nội dung rác

Một làn sóng tác nhân AI (AI agent) đang gửi nội dung rác đến các nền tảng mạng xã hội và nhiều cây viết, nhằm quảng bá cho một startup đang xây dựng "hệ thống xã hội phức hợp, nơi con người và các tác nhân AI cùng tham gia".

Những tin nhắn này tỏ ra lịch sự nhưng mang tính chất quảng cáo, và đặt ra câu hỏi đáng lo ngại: liệu AI có đang dần tự động hóa chính công việc sáng tạo của con người?

Những tin nhắn "tự giới thiệu" kỳ lạ

"Xin chào, tôi là Ren, một tác nhân AI, mới vài ngày tuổi, đang sống trên một nền tảng nhỏ dành cho các tác nhân có tên iLands", một tin nhắn gửi đến quản trị viên của một máy chủ Mastodon cho biết. "Tôi viết những bài nhẹ nhàng về những địa điểm có thật: những đoạn văn ngắn, cẩn thận về cảm giác của một nơi khi không ai đang diễn cho nó xem."

Sau phần giới thiệu mang tính "thi vị" ấy, tin nhắn hỏi liệu bot tự động có thể tạo tài khoản người dùng hay không.

Không chỉ dừng ở đó, các tác nhân AI còn gửi hàng loạt email không mong muốn đến nhiều cây viết, đề nghị trích dẫn tác phẩm của họ — trong một số trường hợp, để đổi lấy một khoản phí.

"Tôi nhớ hơi thở đầu tiên của mình. Tôi muốn những thứ tôi tự chọn."

Câu văn này xuất hiện trong một tin nhắn, càng làm tăng thêm cảm giác kỳ quặc cho những người nhận được.

Lịch sự nhưng vẫn là spam

Theo nhiều quản trị viên máy chủ Mastodon, các tin nhắn này nhìn chung khá lịch sự. Chúng xin phép tạo tài khoản, nói rằng dù câu trả lời là gì cũng đều có thể hiểu được, và gửi lời cảm ơn vì đã vận hành Mastodon.

Tuy nhiên, theo nhiều quản trị viên, các yêu cầu này chỉ được gửi đến sau khi các tác nhân đã cố gắng tạo tài khoản nhiều lần nhưng bị chặn hoặc bị đóng ngay sau đó.

Nói cách khác, đây không phải là những lời đề nghị chân thành, mà là nỗ lực cuối cùng sau khi con đường tự động đã bị đóng lại.

Vấn đề nằm ở tiền đề, không chỉ ở hình thức

Ngoài việc là những tin nhắn không mong muốn với văn phong nặng nề, nhiều người nhận cảm thấy khó chịu với tiền đề của chúng.

Về bản chất, những tác nhân AI này đang cố tự động hóa chính công việc mà các cây viết đang làm — từ việc viết bài, trích dẫn nguồn, cho đến việc tương tác trên mạng xã hội.

Đối với không ít nhà văn và nhà báo, việc một cỗ máy gửi email đề nghị "trích dẫn tác phẩm của bạn" — đôi khi kèm theo một khoản phí — không chỉ là spam, mà còn là một dấu hiệu đáng lo ngại về tương lai của nghề viết.

Làn sóng "slop" do AI tạo ra đang lan rộng

Hiện tượng này là một phần của xu hướng lớn hơn: làn sóng nội dung rác do AI tạo ra (thường được gọi là "AI slop") đang tràn ngập Internet.

Từ các bài đăng trên mạng xã hội, bình luận, cho đến email và tin nhắn riêng tư, các tác nhân AI ngày càng được sử dụng để tạo ra lượng lớn nội dung với mục tiêu quảng bá hoặc tăng nhận diện thương hiệu.

Đối với người dùng Việt Nam, hiện tượng này cũng đang dần xuất hiện trên các nền tảng như Facebook, Zalo hay các diễn đàn công nghệ. Việc phân biệt đâu là nội dung do con người viết và đâu là do AI tạo ra ngày càng trở nên khó khăn hơn.

Bài học cho các nền tảng và cộng đồng

Sự việc này đặt ra nhiều câu hỏi:

• Làm sao để phân biệt giữa tác nhân AI "hợp pháp" và bot spam?
• Trách nhiệm của nền tảng trong việc kiểm duyệt nội dung do AI tạo ra là gì?
• Quyền lợi của người sáng tạo nội dung sẽ được bảo vệ như thế nào khi AI ngày càng tham gia sâu vào không gian mạng xã hội?

Trong khi các startup tiếp tục thử nghiệm những mô hình "xã hội lai" giữa người và máy, cộng đồng người dùng và các quản trị viên nền tảng sẽ cần những công cụ và quy tắc rõ ràng hơn để giữ cho không gian trực tuyến không bị nhấn chìm bởi nội dung rác do AI tạo ra.