Đàn ông Ohio trở thành người đầu tiên bị kết án theo đạo luật Take It Down vì tạo ảnh nude AI

James Strahler II (37 tuổi) vừa trở thành người đầu tiên bị kết án theo đạo luật Take It Down sau khi nhận tội tạo và chia sẻ hình ảnh khiêu dâm thật cũng như do AI tạo ra của ít nhất 10 nạn nhân mà không có sự đồng ý.

Theo thông báo từ Bộ Tư pháp Mỹ, Strahler đã sử dụng các công cụ trí tuệ nhân tạo để quấy rối ít nhất sáu phụ nữ mà hắn quen biết. Trong một số hình ảnh, hắn đã miêu tả một nạn nhân đang quan hệ tình dục với chính cha ruột của mình và chia sẻ hình ảnh đó cho mẹ và đồng nghiệp của nạn nhân. Thậm chí, hắn còn sử dụng AI để tạo ra các hình ảnh khiêu dâm và loạn luân, ghép khuôn mặt của các trẻ em trai vào thân thể người lớn, bao gồm cả những đứa trẻ có quan hệ họ hàng với các nạn nhân của hắn.

Quy mô sử dụng công cụ đáng báo động

Cảnh sát phát hiện rằng Strahler đã "cài đặt hơn 24 nền tảng AI và hơn 100 mô hình AI dựa trên web trên điện thoại" của mình. Hắn sử dụng hệ thống công cụ khổng lồ này để tạo ra hàng trăm, nếu không nói là hàng nghìn, hình ảnh thân mật không có sự đồng ý (NCII) miêu tả cả phụ nữ và trẻ em.

Vụ việc này không chỉ cho thấy sự nguy hiểm của công nghệ deepfake khi rơi vào tay kẻ xấu, mà còn đặt ra những thách thức lớn về mặt pháp lý và an ninh mạng trong việc bảo vệ nạn nhân trước các hình ảnh giả mạo ngày càng tinh vi.