Taylor Swift đăng ký thương hiệu cho hình ảnh: Quảng cáo Deepfake trên TikTok là lý do tại sao

Tuần trước, Taylor Swift đã nộp đơn đăng ký ba thương hiệu để bảo vệ hình ảnh và giọng nói của mình. Một đơn nhằm bảo vệ bức ảnh nổi tiếng của nữ ca sĩ đang cầm cây đàn guitar màu hồng trong buổi biểu diễn tại chuyến lưu diễn kỷ lục Eras Tour, trong khi hai thương hiệu âm thanh còn lại dành cho các cụm từ nhận dạng đơn giản: "Này, đây là Taylor Swift" và "Này, đây là Taylor".

Động thái này diễn ra trong bối cảnh công nghệ deepfake (giả mạo sâu) dựa trên AI tiếp tục lan rộng trên mạng xã hội. Bất kỳ cá nhân nào cũng có nguy cơ bị khai thác hình ảnh để tạo ra nội dung do AI tạo ra mà không có sự đồng ý; đầu tháng này, một người đàn ông ở Ohio đã trở thành người đầu tiên bị kết án theo luật liên bang mới hình sự hóa các "hình ảnh thân mật" lừa đảo loại này. Trong khi đó, người nổi tiếng đối mặt với rủi ro cả về deepfake khiêu dâm lẫn các lời chứng thực giả mạo.

Một báo cáo mới từ công ty phát hiện AI Copyleaks cho thấy Swift và các ngôi sao khác gần đây đã bị sử dụng hình ảnh trong các quảng cáo lừa đảo. Các nhà nghiên cứu đã xác định một nhóm video tài trợ trên TikTok dường như cho thấy Swift, Kim Kardashian, Rihanna và những người khác đang quảng bá "các dịch vụ có khả năng lừa đảo hoặc độc hại", với các đoạn clip sử dụng những gì các nhà nghiên cứu gọi là "giọng nói chân thực" cũng như "bộ lọc kết cấu nhằm che giấu một số khuyết điểm trong hình ảnh do AI tạo ra".

Các quảng cáo giả này cho thấy Swift và những người khác trong những bối cảnh phỏng vấn phổ biến như sự kiện thảm đỏ hoặc trường quay talk show. Tuy nhiên, thay vì trả lời câu hỏi, các nhân vật nổi tiếng do AI tạo ra lại nói về các chương trình thưởng supposed mà người dùng TikTok được trả tiền để cung cấp phản hồi về nội dung được phục vụ cho họ.

"Tôi đang đọc về hành vi kỹ thuật số tuần này và tình cờ thấy một tính năng thử nghiệm gọi là TikTok Pay," bản deepfake của Swift nói trong một quảng cáo sử dụng cảnh quay bị thao túng từ buổi xuất hiện của Swift thật trên chương trình The Tonight Show Starring Jimmy Fallon vào tháng 10. "Một số người dùng đang được mời xem video và gửi ý kiến." Bản deepfake của Swift tiếp tục nói rằng chương trình hiện đang trong "giai đoạn triển khai hạn chế" nhưng khuyến khích người xem xem liệu họ có đủ điều kiện tham gia hay không, thêm vào: "Nếu trang web mở ra cho bạn, đừng suy nghĩ quá nhiều."

Tất nhiên, bất kỳ ai nhấp vào đều được chấp nhận. Các quảng cáo này cuối cùng dẫn người dùng đến một dịch vụ bên thứ ba mà, dù có tên và logo TikTok, nhưng rõ ràng đã được "vibe-coded" (tạo phong cách) bằng nền tảng AI Lovable, với thương hiệu riêng của nền tảng này xuất hiện trên trang và trong URL. Tại thời điểm này, các nhà nghiên cứu cho biết, người dùng được yêu cầu bắt đầu nhập tên và thông tin cá nhân của mình.

Mặc dù chưa rõ những người quảng cáo định làm gì với tất cả dữ liệu được khai thác thông qua việc quảng bá deepfake người nổi tiếng, nhưng các quảng cáo lừa đảo với mục tiêu tương tự đang cực kỳ phổ biến. Tuần trước, tổ chức phi lợi nhuận Consumer Federation of America đã kiện Meta, cáo buộc gã khổng lồ công nghệ này đã gây hiểu lầm cho người dùng Facebook và Instagram về nỗ lực trấn áp quảng cáo lừa đảo — và kiếm lợi từ việc cho phép chúng lan rộng. Vào thứ Hai, Ủy ban Thương mại Liên bang Mỹ (FTC) báo cáo rằng các trò lừa đảo trên mạng xã hội đã tăng vọt chung, với các trò lừa đảo trên Facebook chiếm tổng thiệt hại tài chính cao nhất.

Không có gì ngạc nhiên khi Swift và các đồng nghiệp đang thực hiện các bước pháp lý để xa rời mình khỏi nền kinh tế lừa đảo này. Mặc dù Swift chưa bình luận công khai về lý do đằng sau việc nộp đơn đăng ký thương hiệu, nhưng thiệt hại về danh tiếng mà các deepfake lừa đảo gây ra cho thương hiệu tỷ đô của cô khó có thể bỏ qua. Vấn đề là chúng đang ngày càng trở nên tinh vi hơn.