Meta chạy quảng cáo cho ứng dụng AI 'cởi đồ' phụ nữ chính trị gia

Meta vừa bị phát hiện cho chạy quảng cáo trên nền tảng của mình cho Kromix, một ứng dụng trí tuệ nhân tạo (AI) được quảng bá là công cụ "tạo kiểu ảnh" nhưng thực chất cho phép người dùng tạo ra các video khiêu dâm giả mạo (deepfake) khuôn mặt của người khác, đặc biệt nhắm vào các nữ chính trị gia nổi tiếng của Mỹ. Sự việc này gây chấn động dư luận và là một lỗ hổng nghiêm trọng nữa trong hệ thống kiểm duyệt quảng cáo của Meta.

Quảng cáo vi phạm chính sách rõ ràng

Theo điều tra của WIRED, các đoạn quảng cáo của Kromix đã xuất hiện trên Facebook và Instagram, nhắm mục tiêu chủ yếu đến người dùng nam với khẩu hiệu "Unleash Next-gen AI Magic" (Giải phóng sức mạnh AI thế hệ mới). Một trong những quảng cáo còn hiển thị hình ảnh một nữ chính trị gia hàng đầu của Mỹ đứng trước cờ Mỹ, sau đó biến thành một cảnh trong video khiêu dâm.

Những quảng cáo này đã vi phạm trắng trợn chính sách của Meta về nội dung khiêu dâm, hình ảnh thân mật không có sự đồng thuận (NCII) và đặc biệt là lệnh cấm quảng bá các ứng dụng "nudify" (cởi đồ bằng AI). Meta tuyên bố hệ thống của họ sử dụng công nghệ AI để kiểm duyệt trước khi quảng cáo được đăng tải, nhưng thực tế cho thấy điều này hoàn toàn không hiệu quả.

Lo ngại về việc nhắm vào phụ nữ trong chính trường

Katie Paul, giám đốc tổ chức Tech Transparency Project – đơn vị đã phát hiện ra các quảng cáo này, bày tỏ quan ngại sâu sắc: "Tất cả các quảng cáo về vấn đề nudify từ trước đến nay đều tập trung vào việc khiêu dâm hóa và bôi nhọ phụ nữ. Điều này đặt ra câu hỏi lớn về cách Meta giải quyết loại nội dung này, đặc biệt khi chúng nhắm vào các nữ chính trị gia."

Đây là một vấn đề nhức nhối kéo dài. Vào tháng 1, chatbot Grok của Elon Musk đã được sử dụng để tạo ra khoảng 3 triệu hình ảnh khiêu dâm phụ nữ, trong đó có nhiều quan chức chính phủ ở Thụy Điển, Anh và Bắc Ireland. "Việc sản xuất và phát tán nội dung do AI tạo ra đã trở nên dễ dàng hơn bao giờ hết. Những bức ảnh chính thức, video từ các cuộc họp báo đã trở thành nguyên liệu thô cho các công cụ AI," Benjamin Shultz, nhà nghiên cứu tại American Sunlight Project, nhận định.

Phản ứng của Meta và Apple

Trước sức ép từ dư luận, Meta tuyên bố đã gỡ toàn bộ 32 quảng cáo liên quan đến Kromix khỏi hệ thống và liên tục mạnh tay với các vi phạm tương tự. Đại diện Meta cho biết: "Bóc lột tình dục là hành vi kinh khủng, chúng tôi xử lý các hành vi này một cách tích cực. Chúng tôi đã gỡ hơn 344.000 quảng cáo vi phạm trong giai đoạn cuối năm ngoái, đồng thời khởi kiện một số nhà phát triển ứng dụng nudify."

Về phía Apple, một phát ngôn viên xác nhận đã gỡ Kromix khỏi App Store vì ứng dụng này "thêm các tính năng và nội dung bị cấm sau khi trải qua quá trình xét duyệt ban đầu." Apple nhấn mạnh họ luôn nghiêm cấm các ứng dụng tạo hoặc phân phối nội dung khiêu dâm và "cởi đồ (nudification) chính là hành vi vi phạm các nguyên tắc của App Store."

Lỗ hổng cần được khắc phục triệt để

Theo Tech Transparency Project, đây không phải là lần đầu tiên những quảng cáo tương tự lọt qua hàng rào kiểm duyệt của Meta. Việc những quảng cáo vi phạm thường dùng một ảnh bìa vô hại như bãi biển hay núi non để "che mắt" hệ thống AI của Meta cho thấy các nhà quảng cáo đang tìm mọi cách để đánh lừa hệ thống này. Meta cho biết họ đang tiếp tục điều tra vì sao các quảng cáo này lại có thể vượt qua hệ thống của mình.

"Meta ngày càng dựa vào AI trong khi sa thải đội ngũ kiểm duyệt viên con người. Quảng cáo là sản phẩm chính của Meta, nhưng dường như họ không có biện pháp kiểm soát chất lượng nào đáng tin cậy." — Katie Paul, Tech Transparency Project.

Đối với người dùng tại Việt Nam, sự việc này là một lời cảnh báo rõ ràng về những rủi ro của công nghệ AI, đặc biệt là các công cụ tạo deepfake. Người dùng cần hết sức thận trọng khi sử dụng các ứng dụng "làm đẹp ảnh" hoặc "chỉnh sửa ảnh AI" không rõ nguồn gốc, vì chúng có thể đang thu thập và sử dụng khuôn mặt của bạn cho các mục đích bất hợp pháp. Việc bảo vệ dữ liệu cá nhân, đặc biệt là hình ảnh khuôn mặt, đang trở thành một bài toán khó trong thời đại AI phát triển như vũ bão.