Cú sốc khi phát hiện cơ thể mình bị sử dụng trong nội dung deepfake

Khi Jennifer nhận được công việc nghiên cứu tại một tổ chức phi lợi nhuận vào năm 2023, cô đã thử chạy ảnh chân dung chuyên nghiệp mới của mình thông qua một chương trình nhận diện khuôn mặt. Cô muốn xem liệu công nghệ này có xác định được các video khiêu dâm mà cô đã thực hiện hơn 10 năm trước, khi mới đôi mươi, hay không. Kết quả trả về đúng là những nội dung đó, nhưng kèm theo một điều đáng sợ mà cô chưa từng thấy: một video cũ của cô, nhưng với khuôn mặt của một người khác trên cơ thể của chính mình.

“Lúc đầu, tôi nghĩ đó chỉ là một người khác,” Jennifer, nhân vật đang được sử dụng bút danh để bảo vệ quyền riêng tư, chia sẻ. Nhưng sau đó, cô nhận ra bối cảnh lòe loẹt đặc trưng từ một video cô quay vào khoảng năm 2013 và cô bàng hoàng: “Có ai đó đã sử dụng cơ thể tôi để làm deepfake.”

Minh họa vấn nạn deepfake

Đáng sợ hơn, công nghệ nhận diện khuôn mặt đã xác định được cô vì hình ảnh đó vẫn giữ lại một số đặc điểm của Jennifer—xương gò má, lông mày và hình dáng cằm. “Cảm giác như tôi đang đeo khuôn mặt của người khác như một chiếc mặt nạ,” cô nói.

Những nạn nhân bị lãng quên của deepfake

Các cuộc thảo luận về nội dung deepfake mang tính tình dục—một dạng hình ảnh nhạy cảm không có sự đồng ý (NCII)—thường tập trung vào những người có khuôn mặt xuất hiện trong video làm những việc họ chưa từng làm, hoặc trên những cơ thể không phải của họ. Tuy nhiên, ít ai quan tâm đến “cơ thể gốc” bị sử dụng trong các hình ảnh và video này.

Jennifer, giờ đây 37 tuổi và là một nhà trị liệu tâm lý làm việc tại New York, cho biết: “Chưa bao giờ có cuộc thảo luận nào về việc: Cơ thể này thuộc về ai?”

Trong nhiều năm, câu trả lời thường là các diễn viên ngành công nghiệp người lớn. Deepfake thực tế đã có tên từ tháng 11 năm 2017, khi một người dùng Reddit có tên “deepfakes” tải lên các video dán khuôn mặt của các ngôi sao như Scarlett Johansson và Gal Gadot lên cơ thể các diễn viên phim khiêu dâm.

Sự trỗi dậy của AI và dữ liệu đào tạo

Gần đây, khi trí tuệ nhân tạo (AI) sinh tiến bộ và các ứng dụng “nudify” (cởi đồ) bắt đầu gia tăng, vấn đề đã trở nên phức tạp và nguy hiểm hơn nhiều. Cơ thể của các diễn viên phim người lớn không còn bị lấy trực tiếp từ các ảnh hay video khiêu dâm theo cách có thể nhận diện rõ ràng nữa. Thay vào đó, chúng đang bị sử dụng không thể tránh khỏi làm dữ liệu đào tạo (training data) để định hình ngoại hình, chuyển động và hành vi của các cơ thể do AI tạo ra.

Điều này đe dọa sinh kế và quyền lợi của các diễn viên, khi công việc của họ bị dùng để huấn luyện AI, từ đó tạo ra các hình ảnh khiêu dâm có thể thay thế chính công việc kinh doanh của họ. Không chỉ dừng lại ở đó, sự tiến bộ của AI còn cho phép tái tạo hoàn toàn hình ảnh của các diễn viên mà không cần sự đồng ý, và các bản sao AI này có thể thực hiện những hành động mà diễn viên thực tế không bao giờ làm.

Tác động tâm lý và pháp lý

Cả những người có khuôn mặt xuất hiện trong deepfake lẫn những người có cơ thể bị sử dụng đều cảm thấy đau khổ nghiêm trọng. Các chuyên gia gọi loại thiệt hại này là “tổn thương gắn liền với thân thể” (embodied harms). Thuật ngữ này phản ánh thực tế rằng dù nội dung tồn tại trong thế giới ảo, nó vẫn có thể gây ra các tác động sinh lý, bao gồm rối loạn nhận thức cơ thể (body dysmorphia).

Về mặt pháp lý, bản quyền vẫn là công cụ tốt nhất tại hệ thống pháp luật Mỹ để gỡ bỏ nội dung này, ít nhất là đối với nội dung có hoán đổi khuôn mặt. Tuy nhiên, việc chứng minh cơ thể trong một deepfake thuộc về ai là vô cùng khó khăn nếu thiếu các đặc điểm nhận dạng duy nhất như hình xăm.

Nguy cơ từ các ứng dụng “nudify”

Trong những năm gần đây, việc sử dụng cơ thể thật của các diễn viên trong deepfake đã ít phổ biến hơn, thay vào đó là sự xuất hiện của các ứng dụng tạo ra cơ thể hoàn toàn bằng AI. Các ứng dụng này gần như chắc chắn dựa trên hàng nghìn terabyte nội dung khiêu dâm trực tuyến để huấn luyện mô hình, trong khi các diễn viên gần như không có cơ hội bảo vệ mình.

Hany Farid, giáo sư chuyên về pháp y kỹ thuật số tại Đại học California, Berkeley, cho biết các mô hình AI này giống như một “hộp đen”, nhưng với sự phổ biến của nội dung người lớn, đó là một “giả định hợp lý” rằng chúng đang được sử dụng làm dữ liệu huấn luyện.

Thách thức tương lai

Khi công nghệ AI ngày càng tinh vi, việc phân biệt video thật và giả trở nên khó khăn hơn bao giờ hết. Các diễn viên người lớn đang đối mặt với nguy cơ bị lừa đảo qua các bản sao AI. Ví dụ, Tanya Tate, một diễn viên người lớn lâu năm, từng bị người hâm mộ cáo buộc lừa đảo khi một kẻ lừa đảo đã sử dụng deepfake của cô để chiếm đoạt tiền của họ.

Trong khi đó, các nỗ lực luật pháp như đạo luật “Take It Down Act” của Mỹ, được thiết kế để hình sự hóa việc đăng tải NCII, có thể vô tình gây hại cho chính các diễn viên. Người ta có thể vũ khí hóa đạo luật này để báo cáo nội dung khiêu dâm hợp pháp là NCII nhằm gỡ bỏ chúng khỏi internet, làm tổn hại đến thu nhập của các diễn viên.

Jennifer kết luận: “Nếu họ làm điều gì đó, họ lại tước đi thu nhập của bạn một lần nữa — thay vì trao cho bạn nhiều quyền hơn đối với hình ảnh của mình, điều đó sẽ vô cùng hữu ích.”