Phụ nữ kiện những người đàn ông dùng Instagram để tạo "ngôi sao khiêu dâm" AI
Nhiều phụ nữ đã phát hiện hình ảnh của mình bị đánh cắp từ Instagram để tạo ra nội dung khiêu dâm sử dụng công nghệ AI. Họ đang khởi kiện những người đàn ông đã sử dụng nền tảng AI ModelForge để thực hiện hành vi ghép ảnh trái phép này.
MG, một phụ nữ 20 tuổi sống tại Arizona, Mỹ, từng có một cuộc sống bình thường và sử dụng Instagram giống như nhiều người trẻ khác để chia sẻ những khoảnh khắc đời thường với bạn bè.
Tuy nhiên, vào mùa hè năm ngoái, cô đã nhận được một tin nhắn báo động từ một người theo dõi. Họ hỏi cô có biết rằng hình ảnh của một người phụ nữ trông giống hệt mình đang lan truyền trên Instagram dưới dạng nội dung khiêu dâm hay không. Khi bấm vào liên kết, MG đã sốc khi thấy những video Reels với khuôn mặt của mình được ghép (deepfake) lên cơ thể của một người phụ nữ khác có hình xăm và dáng vẻ tương tự, nhưng đang mặc đồ hở hang.
" tôi chưa bao giờ thực sự quan tâm đến việc bùng nổ hay trở nên nổi tiếng trên mạng xã hội", MG (được chỉ tên viết tắt trong đơn kiện để bảo vệ danh tính) chia sẻ. "Tôi chỉ dùng nó giống như phần lớn mọi người lúc mới bắt đầu, để chia sẻ cuộc sống với những người thân thiết nhất". Dù tài khoản của cô có hơn 9.000 người theo dõi, một con số khá lớn, nhưng đó chưa bao giờ là mục tiêu để kiếm tiền hay trở thành người nổi tiếng.
Đứng sau hành vi xấu tính này là những người đàn ông sử dụng một nền tảng có tên là AI ModelForge. Đây được biết đến là một nền tảng chuyên dạy cách tạo ra các "người có ảnh hưởng AI" (AI influencers). Thay vì tạo ra các nhân vật hư cấu hoàn toàn, nhiều người dùng đã lợi dụng công cụ này để lấy cắp hình ảnh từ các tài khoản Instagram công khai của phụ nữ thật, sau đó huấn luyện AI để tạo ra các mô hình nhằm phục vụ mục đích khiêu dâm.
Hiện tại, MG và các nạn nhân khác đã quyết định nộp đơn kiện những người đàn ông này. Vụ việc không chỉ là sự vi phạm quyền riêng tư nghiêm trọng mà còn cho thấy mặt trái đáng sợ của công nghệ tạo sinh (generative AI), khi khuôn mặt và danh tính của một người có thể bị đánh cắp và lợi dụng chỉ trong vài cú nhấp chuột.
Vụ án này đặt ra những câu hỏi lớn về đạo đức trong kỷ nguyên AI và tính cần thiết của các quy định pháp luật chặt chẽ hơn để xử lý hành vi sản xuất nội dung khiêu dâm không có sự đồng thuận (non-consensual sexual content) sử dụng công nghệ deepfake.
Sự phát triển của AI mang lại nhiều tiện ích, nhưng cũng mở ra cánh cửa cho các hành vi sai trái. Việc bảo vệ hình ảnh cá nhân trên mạng xã hội đang trở nên cấp thiết hơn bao giờ hết.
