Scandal AI khiêu dâm: Bị kiện vì bán khóa học hướng dẫn "tạo" người mẫu số từ ảnh thật

Vụ án gây chấn động về lạm dụng AI khiêu dâm

Hơn một năm trước, MG (tên giả để bảo vệ danh tính) đang sống một cuộc đời bình thường tại Scottsdale, Arizona. Cô làm trợ lý cá nhân và làm thêm phục vụ bàn cuối tuần như bao người trẻ khác. Cô cũng có một tài khoản Instagram với khoảng 9.000 người theo dõi, nơi cô chia sẻ những khoảnh khắc đời thường như uống trà, đi tập Pilates hay ngồi bên hồ bơi cùng bạn bè.

Tuy nhiên, tất cả đã thay đổi khi cô nhận được tin nhắn từ một người theo dõi rằng hình ảnh một người phụ nữ trông giống hệt cô đang lan truyền trên mạng với nội dung khiêu dâm. MG hoảng sợ khi phát hiện khuôn mặt và hình xăm của mình được ghép vào cơ thể của một người khác qua các video ngắn (Reels). "Nếu bạn không biết tôi rõ, bạn hoàn toàn có thể nghĩ đó là hình ảnh của tôi," MG chia sẻ. "Đó giống như một sự thật phũ phàng rằng tôi không kiểm soát được hình ảnh của chính mình."

Nỗi kinh hoàng tăng lên gấp bội khi cô phát hiện ra những hình ảnh này không chỉ bị lan truyền mà còn được sử dụng để quảng cáo cho AI ModelForge — một nền tảng dạy đàn ông cách tạo ra người mẫu ảnh AI của riêng họ.

"Sách lược" profit từ việc xâm phạm hình ảnh nạn nhân

Vào tháng 1 vừa qua, MG cùng hai nguyên đơn khác đã đệ đơn kiện chống lại ba người đàn ông tại Phoenix: Jackson Webb, Lucas Webb và Beau Schultz, cùng 50 bị đơn vô danh. Vụ kiện cáo buộc nhóm này đã quét dữ liệu (scrape) ảnh của những phụ nữ trẻ không nghi ngờ trên mạng, sau đó sử dụng AI tạo sinh (Generative AI) để tạo ra các mô hình người mẫu ảo giống hệt họ và bán nội dung này trên nền tảng đăng ký Fanvue.

Theo đơn kiện, những kẻ đứng sau AI ModelForge còn bán các khóa học trực tuyến với giá 24,95 USD/tháng trên nền tảng Whop. Họ hướng dẫn người đăng ký cách sử dụng phần mềm CreatorCore để đào tạo các mô hình AI. Đáng báo động hơn, họ cung cấp một "sách lược" hoàn chỉnh, bao gồm chỉ dẫn cách chọn nạn nhân—cụ thể là nhắm vào những phụ nữ có dưới 50.000 người theo dõi để tránh các vấn đề pháp lý.

"Họ đã cung cấp một cẩm nang toàn diện, bao gồm cả hướng dẫn cách chọn đúng người, là những người không thể tự bảo vệ mình... Nó thật kinh tởm ở mọi cấp độ," một nguyên đơn khẳng định.

Nhóm bị đơn bị cho là đã tạo ra các "Bản thiết kế" (Blueprints) để thu thập hình ảnh từ mạng xã hội và đưa vào mô hình AI, cũng như một ứng dụng riêng để loại bỏ quần áo của phụ nữ và tạo ra hình ảnh, video khiêu dâm. Vụ kiện cho biết nội dung này đã thu hút hàng triệu lượt xem và mang về hơn 50.000 USD thu nhập chỉ trong một tháng.

Thương mại hóa nạn nhân và rủi ro của công nghệ AI

Vụ án này hé lộ một góc khuất đáng báo động của làn sóng bùng nổ trí tuệ nhân tạo. AI ModelForge chỉ là một trong số nhiều công ty đang trục lợi từ việc dạy đàn ông cách tạo ra các "người mẫu AI" như một nghề tay trái (side hustle).

Nick Brand, luật sư đại diện cho các nguyên đơn, nhận định: "Những chàng trai này không chỉ sử dụng AI tạo sinh để cởi đồ phụ nữ—họ còn bán khả năng làm điều đó cho những người đàn ông và cậu bé khác, những người sau đó sẽ dùng hình ảnh của phụ nữ khác để làm điều tương tự."

Về mặt pháp lý, Hiện tại đã có Đạo luật Take It Down được Tổng thống Trump ký thành luật vào tháng 5 năm 2025, khiến việc xuất bản nội dung tình dục do AI tạo ra không có sự đồng ý trở thành bất hợp pháp. Tuy nhiên, đạo luật này sẽ không có hiệu lực chính thức cho đến tháng 5 năm 2026.

Mặc dù Instagram và TikTok đã thực hiện các biện pháp gỡ bỏ tài khoản vi phạm, quá trình này gặp nhiều khó khăn do các quy định về nội dung AI chưa thực sự chặt chẽ. Nhiều tài khoản quảng cáo cho AI ModelForge vẫn hoạt động, thậm chí đổi tên thành "TaviraLabs" trên Telegram với hơn 18.000 thành viên, tự hào là cộng đồng huấn luyện số 1 về người mẫu AI.

Cảnh báo cho bất kỳ ai sử dụng mạng xã hội

MG cho biết các hình ảnh do AI tạo ra đủ khác biệt so với ảnh thật của cô đến mức cô gặp khó khăn khi khiếu nại vi phạm danh tính trên Instagram. "Đó là khuôn mặt của tôi, hình xăm của tôi, trên một bộ đồ khác và cơ thể hơi khác một chút," cô nói. "Đó là những người phụ nữ thật đang bị biến đổi, không phải chỉ là một nhân vật AI ngẫu nhiên."

Dù sống trong nỗi sợ hãi, việc đệ đơn kiện đã giúp MG lấy lại phần nào quyền tự quyết. Tuy nhiên, câu chuyện của cô, một người có chưa đến 10.000 người theo dõi, là một lời cảnh tỉnh cho bất kỳ ai có sự hiện diện trên mạng.

"Vấn đề không phải là việc phải thận trọng với hình ảnh của bạn trên mạng vì bây giờ ai cũng đăng lên mạng xã hội," MG kết luận. "Ai cũng dùng LinkedIn. Ai cũng dùng Instagram. Và tôi muốn mọi người nhận ra rằng điều này cũng có thể xảy ra với họ."