YouTube mở rộng công cụ phát hiện deepfake AI cho tất cả người dùng trưởng thành

YouTube đang mở rộng chương trình phát hiện diện mạo sử dụng AI của mình cho tất cả người dùng trên 18 tuổi. Điều này có nghĩa là gần như bất kỳ ai cũng có thể yêu cầu nền tảng này săn lùng các video deepfake tiềm năng giả danh họ.

Hình ảnh minh họa về công nghệ deepfake

Tính năng phát hiện diện mạo sử dụng hình ảnh quét kiểu selfie của một người để giám sát YouTube nhằm tìm kiếm các khuôn mặt tương tự. Nếu tìm thấy kết quả trùng khớp, YouTube sẽ cảnh báo cho người dùng; sau đó, người đó có thể lựa chọn yêu cầu YouTube gỡ bỏ nội dung đó. Trước đây, YouTube từng cho biết số lượng yêu cầu gỡ bỏ mà họ nhận được là "rất nhỏ".

Từ người nổi tiếng đến người dùng phổ thông

Ban đầu, YouTube chỉ thử nghiệm tính năng này với các nhà sáng tạo nội dung, sau đó mở rộng sang các quan chức chính phủ, chính trị gia, nhà báo và cuối cùng là ngành công nghiệp giải trí. Việc mở rộng cho tất cả người dùng từ 18 tuổi trở lên là một bước chuyển đổi đáng kể — về cơ bản, nó trao cho người bình thường khả năng giám sát liên tục các nội dung trên YouTube có thể đang sử dụng hình ảnh của họ.

Các yêu cầu gỡ bỏ sẽ được đánh giá dựa trên chính sách quyền riêng tư của YouTube. Công ty cho biết họ xem xét việc gỡ bỏ dựa trên các tiêu chí như nội dung đó có thực tế hay không, có được dán nhãn là do AI tạo ra hay không, và liệu một người có thể được xác định danh tính một cách duy nhất hay không. Tuy nhiên, vẫn có những ngoại lệ cho các nội dung như châm biếm hoặc hài hước.

Hạn chế và quyền riêng tư

Một điểm lưu ý quan trọng là công cụ này chỉ bao gồm sự tương đồng về khuôn mặt, không bao gồm các đặc điểm nhận dạng khác như giọng nói của một người. Người dùng cũng có thể rút lui khỏi chương trình và yêu cầu YouTube xóa dữ liệu của họ.

Nội dung deepfake thường tập trung vào người nổi tiếng, chính trị gia hoặc các nhân vật công khai khác, nhưng khả năng tạo ra một bản sao kỹ thuật số thuyết phục cũng là mối lo ngại đối với công dân bình thường. Đã có những trường hợp thanh thiếu niên bị deepfake bởi bạn cùng lớp, và gần đây, ba thanh thiếu niên đã kiện xAI alleging rằng chatbot Grok của công ty này đã tạo ra tài liệu lạm dụng tình dục trẻ em (CSAM) của họ.

"Với sự mở rộng này, chúng tôi muốn làm rõ rằng dù các nhà sáng tạo đã đăng tải lên YouTube được một thập kỷ hay mới chỉ bắt đầu, họ đều sẽ được tiếp cận với mức độ bảo vệ như nhau," — Jack Malon, người phát ngôn của YouTube, cho biết trong một email.

Việc mở rộng công cụ này đánh dấu một bước tiến trong việc bảo vệ người dùng trước những rủi ro ngày càng gia tăng của công nghệ tạo sinh AI.