New York thu giữ hàng loạt website deepfake người nổi tiếng

Văn phòng Biện lý quận Manhattan (New York, Mỹ) vừa thu giữ 12 tên miền chuyên phát tán và bán video deepfake khiêu dâm nhắm vào người nổi tiếng. Khoảng 1.200 người — phần lớn là phụ nữ — bị đưa vào các hình ảnh và video khiêu dâm không có sự đồng thuận. Đây được đánh giá là hành động pháp lý quy mô nhất từ trước đến nay nhằm vào loại website độc hại này.

Quy mô của vụ thu giữ

Trong gần một thập kỷ, các website deepfake khiêu dâm đã đăng tải hàng nghìn video không có sự đồng thuận, mô tả phụ nữ — trong đó có nhiều người nổi tiếng, chính trị gia và nhân vật công chúng — vào các tình huống tình dục. Hôm thứ Hai, Văn phòng Biện lý quận Manhattan công bố đã thu giữ 12 tên miền mà cơ quan này cho là được dùng để chia sẻ, phát tán và bán "bất hợp pháp" các video deepfake người nổi tiếng.

Theo cơ quan này, khoảng 1.200 người — chủ yếu là phụ nữ — bị mô tả trong các hình ảnh, video tình dục không có sự đồng thuận trên những website nói trên. Nạn nhân bao gồm những người có ảnh hưởng trên mạng xã hội, diễn viên, nhà hoạt động, vận động viên, nhạc sĩ và chính trị gia.

"Những hành vi xâm phạm quyền riêng tư kinh khủng này đeo bám nạn nhân suốt sự nghiệp và cuộc sống cá nhân, gây tổn hại to lớn về tinh thần và cảm xúc", Biện lý Alvin Bragg cho biết trong một tuyên bố, đồng thời kêu gọi những người có thể là nạn nhân liên hệ với đơn vị phòng chống tội phạm mạng của văn phòng.

Cơ quan này cho biết các cuộc điều tra nhằm xác định những kẻ chịu trách nhiệm cho các website, cũng như những người đã tải lên video gây tổn hại cho nạn nhân, vẫn đang được tiến hành.

Bước ngoặt trong cuộc chiến chống deepfake

Các vụ thu giữ được thực hiện theo luật tố tụng hình sự của New York, đánh dấu một trong những động thái toàn diện và có ý nghĩa nhất nhằm vào các website lưu trữ video deepfake khiêu dâm kể từ khi công nghệ này xuất hiện vào cuối năm 2017.

Khi công nghệ trí tuệ nhân tạo ngày càng hoàn thiện, một ngành công nghiệp đen gồm các website, ứng dụng và bot đã hình thành: chúng được thiết kế để "lột đồ" ảnh của phụ nữ hoặc tạo ra các video tình dục khiêu dâm có sự xuất hiện của họ. Những hình ảnh và video này ngày càng chân thực và có thể được tạo ra chỉ trong vài giây.

Trong khi công nghệ deepfake được sử dụng rộng rãi nhằm vào cả những phụ nữ và bé gái không phải người nổi tiếng — thường được chia sẻ trong các nhóm mạng xã hội kín — thì những người nổi tiếng cũng đã lên tiếng về những tổn hại khi bị đưa vào nội dung này và những khó khăn trong việc yêu cầu gỡ bỏ. Dù các luật chống deepfake ra đời còn chậm, Đạo luật Take It Down của Mỹ ngày càng cho phép gỡ bỏ những hình ảnh này, trong đó một phần của luật cho phép cơ quan thực thi pháp luật gỡ bỏ và thu giữ các website.

Chi tiết về các website bị thu giữ

Văn phòng Biện lý quận Manhattan không công bố tên các website bị thu giữ. Tuy nhiên, trước tuyên bố của ông Bragg, WIRED đã độc lập quan sát thấy một số trang chủ của các website này bị thay bằng thông báo thu giữ — "TÊN MIỀN NÀY ĐÃ BỊ THU GIỮ" — vào cuối tuần trước. Các website hiện thông báo đã bị tiếp quản theo lệnh thu giữ do Tòa án Tối cao bang New York ban hành.

"Các vụ thu giữ là một thắng lợi quan trọng trong cuộc chiến chống hình ảnh khiêu dâm tổng hợp không có sự đồng thuận (NCII)", nhận định Leonie Oehmig, nhà nghiên cứu tại Viện Đối thoại Chiến lược (ISD), người đã nghiên cứu hệ sinh thái tạo deepfake.

Oehmig cho biết việc thực thi luật của bang cho thấy nội dung độc hại có thể bị xử lý, và các website bị thu giữ dường như không thể truy cập ngay cả khi dùng VPN để thử từ các vị trí khác. "Điều này cho thấy việc thực thi phối hợp và có ý nghĩa là khả thi ngay cả khi các quy định vẫn còn phân mảnh giữa các khu vực pháp lý."

Các website này có thể đã được xem hàng triệu lần. Nhiều trang dùng những cái tên chứa các cụm từ như "người nổi tiếng khiêu dâm" hoặc hứa hẹn "deepfake thật". Chúng lưu trữ các video giả mạo về một số người nổi tiếng nhất thế giới, với một trang tuyên bố "khuôn mặt của nhiều nữ diễn viên được dùng để tạo deepfake".

Các video có thể dài vài phút và gồm những cảnh khiêu dâm hoàn toàn, thường hoán đổi khuôn mặt của người nổi tiếng hoặc nhân vật công chúng vào các video khiêu dâm có sẵn. Các phiên bản lưu trữ của website cho thấy một số video đã được xem hàng chục nghìn lần, trong đó một website tuyên bố đã hoạt động từ năm 2018.

"Hầu hết video có dạng như các phim khiêu dâm thực sự, bị chỉnh sửa để hiển thị khuôn mặt nạn nhân thay cho diễn viên gốc", cho biết Benjamin Shultz, nhà nghiên cứu chính tại American Sunlight Project, một tổ chức phi lợi nhuận.

Shultz, người đã ghi nhận các hành vi lạm dụng deepfake nhắm vào nhân vật chính trị và từng bắt gặp một số website này trong quá trình nghiên cứu, cho biết nhiều video có vẻ là bản đăng lại nội dung vốn được chia sẻ lần đầu trên MrDeepFakes — một nền tảng deepfake khét tiếng từng bị đánh sập sau khi danh tính những người tạo ra nó bị các nhà báo vạch trần.

"Trên ít nhất hai website bị thu giữ, các quan chức dân cử được tạo hồ sơ gồm tên và chức vụ của họ, kèm một lưới video bị chỉnh sửa mang hình ảnh của họ", Shultz nói. Qua nghiên cứu gần đây, Shultz cho biết 56 chính trị gia châu Âu từng được nhắc đến hoặc xuất hiện trên các website, cùng 16 chính trị gia Mỹ và hai người tại Anh.

Thách thức còn ở phía trước

Dù Oehmig, nhà nghiên cứu tại ISD, cho rằng các vụ thu giữ là tín hiệu đáng khích lệ, vẫn còn nhiều phần khác của ngành công nghiệp deepfake đang gây tổn hại nghiêm trọng.

"Can thiệp hiệu quả cần nhắm vào hệ sinh thái ở nhiều điểm, gồm các công cụ dùng để tạo NCII tổng hợp, việc phát hiện và quảng bá chúng, hạ tầng lưu trữ và kỹ thuật giúp chúng duy trì hoạt động, cùng các hệ thống thanh toán và liên kết cho phép các đối tượng kiếm tiền từ chúng", Oehmig nói.

Vụ việc cho thấy các cơ quan thực thi pháp luật bắt đầu có công cụ để đối phó với deepfake độc hại, nhưng đây chỉ là một mắt xích trong hệ sinh thái phức tạp vẫn đang tiếp tục phát triển.