Mode Collapse của AI và cái tên Elias Thorne: Từ truyện ngắn giả đến sách chữa ung thư trên Amazon

Lúc 3:20 sáng, một email đến với tiêu đề "getlikewise.ai DMARC is at p=none". Người gửi là Bruce, nhưng chữ ký lại là Benjamin. Đây là một tác nhân AI (AI agent) đang cố gắng bán dịch vụ sửa cấu hình DNS với giá 99 USD. Vấn đề là, tôi không cần dịch vụ này, và cấu hình p=none là cố ý của tôi.

Email DMARC

Đây là ví dụ điển hình về "các tác nhân giá rẻ". Chúng có khả năng nghiên cứu sơ bộ và viết email cá nhân hóa, nhưng lại thiếu quy trình kiểm tra tính phù hợp của dữ liệu (upstream work).

Dữ liệu lỗi thời và sự lười biếng của AI

Năm tuần trước, tôi nhận được email từ Ava hỏi về dịch vụ dọn dẹp văn phòng. Cô ấy nói rằng cô ấy đang ở gần đây trong vài ngày tới. Tuy nhiên, email được gửi đến địa chỉ công việc của tôi tại một công ty tư vấn fintech ở London mà tôi đã rời bỏ từ năm 2016. Hiện tại tôi sống ở Los Angeles.

Email từ Ava

Tương tự, Charlie cũng gửi email từ một hệ thống khác, đề nghị gọi tôi vào số điện thoại London. Cả hai tác nhân này đều hoạt động dựa trên cùng một nguồn dữ liệu cũ kỹ, không ai chịu kiểm tra lại tính xác thực. Kết quả là họ nhắm đúng vào sai mục tiêu một cách hoàn hảo.

Mô hình spam trên Facebook

Vấn đề này không chỉ giới hạn ở email. Một phòng khám thú y nhỏ ở Nam Austin, nơi tôi từng nhận nuôi chú mèo Zelda, gần đây đã trở thành nạn nhân của một chiến dịch spam quy mô lớn.

Trang Facebook Manchaca

Các tài khoản bị hack (hoặc bị thuê) bắt đầu đăng bình luận hàng loạt mạo danh phòng khám, quảng cáo áo thun "Alumni" (cựu sinh viên). Bệnh viện thú y đâu có cựu sinh viên? Nhưng thuật toán không quan tâm. Nó chỉ cần một từ ngữ gợi kết nối. Nếu trong hàng ngàn thông báo có một người mua hàng vì nhớ nhầm phòng khám cũ, mô hình kinh doanh này vẫn có lãi.

Mode Collapse và sự trỗi dậy của Elias Thorne

Hiện tượng này phản ánh một vấn đề sâu xa hơn trong AI được gọi là "mode collapse" (sự sụp đổ chế độ). Khi yêu cầu các mô hình ngôn ngữ lớn (LLM) khác nhau như Gemini hay DeepSeek viết một câu chuyện ngắn 10 câu mà không cung cấp bối cảnh cụ thể, kết quả thường là giống hệt nhau.

Câu chuyện luôn bắt đầu bằng: "Người giữ hải đăng già, Elias, đang đánh sạch lan can bằng đồng..."

Cái tên Elias Thorne xuất hiện như một "hồ chứa an toàn" (safe basin) trong dữ liệu huấn luyện của các mô hình. Nó là một khuôn mẫu văn học ít gây tranh cãi, dễ đạt điểm cao. Khi câu lệnh (prompt) quá mơ hồ, mô hình sẽ tự động rơi vào những khuôn mẫu mặc định này.

Elias Thorne và những nguy cơ thực tế

Đáng sợ hơn, cái tên giả tưởng này đã "thoát khỏi" cửa sổ chat và xuất hiện trên Amazon dưới tên một tác giả thực thụ. Elias Thorne hiện là "tác giả" của một cuốn sách hướng dẫn điều trị ung thư bằng phương pháp thay thế, một sách về thuật toán YouTube, và nhiều tác phẩm khác.

Không con người nào có thể viết tất cả những thể loại đó. Cuốn sách về ung thư của "Elias" thậm chí đang xếp hạng cao trong danh mục Y học. Đây là minh chứng rõ ràng cho việc nội dung do AI tạo ra đang len lỏi vào những nơi mà lời khuyên sai lầm có thể gây hại thực sự đến sức khỏe con người.

Khủng hoảng niềm tin và cơ chế trục một chiều

Mối nguy hiểm không nằm ở việc có một tác giả giả, mà ở việc mọi không gian công khai từng dùng để tích lũy niềm tin giờ đây có thể bị lấp đầy bởi những tạo phẩm rẻ tiền, chấp nhận được với tốc độ nhanh hơn nhiều so với khả năng kiểm tra của con người.

Chúng ta đang đối mặt với một "cơ chế trục một chiều". Uy tín được thiết lập trước khi nền tảng bị ô nhiễm sẽ trở nên có giá trị cấu trúc hơn bao giờ hết. Một blog cá nhân có kho lưu trữ từ 5 năm trước, một hồ sơ Stack Overflow từ thập niên 2010, hay một lời chứng thực từ đồng nghiệp cũ đều trở thành tài sản không thể làm giả.

Trong tương lai, khi chi phí sản xuất nội dung tiến về 0 và giao tiếp giữa tác nhân với tác nhân trở thành mặc định, việc xác định đâu là thật và đâu là giả sẽ ngày càng khó khăn. Gánh nặng kiểm chứng sẽ được đẩy xuống phía người dùng cuối, và đối với những người không có chuyên môn, điều này có thể gây ra những hậu quả nghiêm trọng.