YouTube mở rộng công nghệ phát hiện deepfake sang ngành công nghiệp giải trí

YouTube mở rộng công nghệ phát hiện hình ảnh giống hệt (likeness detection) của mình, một công cụ dùng để nhận diện nội dung do AI tạo ra như deepfake, đến các cá nhân trong ngành công nghiệp giải trí, công ty thông báo vào ngày thứ Ba.

Công nghệ này hoạt động tương tự như hệ thống Content ID hiện có của YouTube, hệ thống chuyên dùng để phát hiện vật liệu được bảo vệ bản quyền trong video của người dùng, cho phép chủ sở hữu quyền yêu cầu gỡ bỏ hoặc chia sẻ doanh thu từ video đó.

Công nghệ phát hiện hình ảnh giống hệt của YouTube

Tuy nhiên, công nghệ phát hiện hình giống hệt được thiết kế đặc biệt để quét các khuôn mặt giả mạo. Tính năng này nhằm giúp bảo vệ các nhà sáng tạo và nhân vật công chúng trước việc danh tính của họ bị sử dụng trái phép — một vấn đề phổ biến mà các người nổi tiếng thường gặp phải khi hình ảnh của họ bị lợi dụng cho các quảng cáo lừa đảo.

Mở rộng đối tượng sử dụng

Trước đó, công nghệ này đã được cung cấp cho một nhóm nhỏ nhà sáng tạo YouTube trong chương trình thí điểm vào năm ngoái, sau đó mở rộng rộng rãi hơn để bao gồm các chính trị gia, quan chức chính phủ và nhà báo vào mùa xuân năm nay.

Hiện tại, YouTube cho biết công nghệ đang được đưa đến những người làm việc trong ngành giải trí, bao gồm các công ty đại diện tài năng, công ty quản lý và những người nổi tiếng mà họ đại diện. Công ty đã nhận được sự hỗ trợ từ các đại diện lớn như CAA, UTA, WME và Untitled Management, những đơn vị đã đóng góp ý kiến phản hồi cho công cụ mới này.

Điều đáng chú ý là việc sử dụng công cụ phát hiện hình ảnh giống hệt không yêu cầu các nghệ sĩ giải trí phải có kênh YouTube cá nhân của riêng họ.

Cơ chế vận hành và quy định

Thay vào đó, tính năng sẽ quét các nội dung do AI tạo ra để phát hiện sự trùng khớp về mặt hình ảnh của khuôn mặt người tham gia đã đăng ký. Người dùng sau đó có thể chọn yêu cầu gỡ bỏ video vì vi phạm chính sách quyền riêng tư, gửi yêu cầu gỡ bỏ vì vi phạm bản quyền, hoặc không thực hiện hành động nào.

YouTube lưu ý rằng họ sẽ không gỡ bỏ tất cả nội dung, vì nền tảng này cho phép các nội dung hài hước và châm biếm theo các quy định hiện hành.

"Trong tương lai, công nghệ này cũng sẽ hỗ trợ phát hiện âm thanh," đại diện YouTube cho biết.

Liên quan đến vấn đề này, YouTube cũng đã ủng hộ các biện pháp bảo vệ tương tự ở cấp liên bang, cụ thể là sự ủng hộ đối với Đạo luật NO FAKES tại Washington, D.C. Đạo luật này sẽ điều chỉnh việc sử dụng AI để tạo ra các bản tái tạo trái phép giọng nói và hình ảnh cá nhân.

Hiện tại, công ty vẫn chưa tiết lộ con số cụ thể về số lượng deepfake của AI đã được công cụ này xử lý, nhưng vào tháng 3, họ đã lưu ý rằng số lượng gỡ bỏ vẫn còn "rất nhỏ".