Meta chạy quảng cáo cho ứng dụng AI 'khỏa thân' chính trị gia nữ: Lỗ hổng nghiêm trọng trong kiểm duyệt

Meta, công ty mẹ của Facebook và Instagram, vừa bị phát hiện đã cho phép chạy các quảng cáo cho Kromix, một ứng dụng sử dụng AI để tạo ra video khiêu dâm giả mạo (deepfake) về các nữ chính trị gia Mỹ. Đây là một thất bại mới nhất trong chuỗi sai sót của Meta khi không thể ngăn chặn các quảng cáo cho công cụ tạo hình ảnh thân mật không đồng thuận trên nền tảng của mình, bất chấp chính sách cấm nội dung tình dục.

Theo điều tra của WIRED, một trong những quảng cáo của Kromix mô tả một phụ nữ có ngoại hình giống hệt một nữ chính trị gia nổi tiếng của Mỹ, đứng trước cờ Mỹ và cờ tổng thống, với phụ đề "Điều gì xảy ra nếu cô ấy chuyển động?". Sau đó, cô ấy nháy mắt, và quảng cáo chuyển cảnh sang một video khiêu dâm với khuôn mặt tương tự.

Kromix tự giới thiệu là một "trình tạo kiểu ảnh AI". Tuy nhiên, lồng tiếng trong quảng cáo lại quảng bá công cụ này với khẩu hiệu "không giới hạn", khẳng định "tất cả các nhân vật đều là người thật" và mô tả đây là "AI mà đàn ông thực sự sử dụng". Ứng dụng này mời người dùng trả phí tải ảnh lên để sử dụng trong các tình huống như "hãm hiếp trong phòng ngủ" hoặc "tình yêu Disney" — một chi tiết gây sốc về mức độ nhạy cảm của nội dung mà ứng dụng này cung cấp.

Lỗ hổng hệ thống và rủi ro lan rộng

Sự việc này không chỉ dừng lại ở một quảng cáo đơn lẻ. Nó cho thấy một lỗ hổng mang tính hệ thống trong quy trình kiểm duyệt của Meta. Mặc dù công ty có chính sách cấm quảng cáo chứa nội dung tình dục và nội dung gây hiểu lầm, nhưng các quảng cáo này vẫn được phát hành. Điều này đặt ra câu hỏi lớn về việc liệu Meta có thực sự đầu tư đủ nguồn lực để kiểm soát nội dung do AI tạo ra, vốn ngày càng tinh vi và khó phát hiện hơn.

"Đây là một thất bại nghiêm trọng trong việc thực thi chính sách. Việc một ứng dụng công khai quảng bá khả năng tạo nội dung khiêu dâm giả mạo về người thật, đặc biệt là các chính trị gia, là điều không thể chấp nhận được." — Một chuyên gia an ninh mạng giấu tên chia sẻ với Lehuy.net.

Deepfake không đồng thuận (NCII) là một vấn nạn đang gia tăng nhanh chóng. Các công cụ AI ngày càng dễ sử dụng và giá rẻ, cho phép bất kỳ ai tạo ra video hoặc hình ảnh giả mạo người khác trong các tình huống nhạy cảm một cách dễ dàng. Nạn nhân của loại nội dung này thường là phụ nữ, và họ phải chịu những tổn thương tâm lý và danh dự nghiêm trọng.

Trách nhiệm của các nền tảng công nghệ

Ứng dụng Kromix trước đó được lưu trữ trên Apple App Store, nhưng đã bị gỡ xuống sau khi WIRED liên hệ để yêu cầu bình luận. Tuy nhiên, sự việc này cho thấy một lỗ hổng lớn hơn trong hệ sinh thái công nghệ: các nền tảng như Apple, Google và Meta cần phải phối hợp chặt chẽ hơn để ngăn chặn những ứng dụng độc hại này.

Đối với người dùng Việt Nam, vấn đề này cũng đặc biệt đáng quan tâm. Nạn nhân của deepfake không phân biệt quốc gia, và làn sóng sử dụng AI để tạo nội dung giả mạo đang ngày càng phổ biến tại Việt Nam. Các cơ quan chức năng và nền tảng công nghệ cần có các biện pháp mạnh mẽ hơn để bảo vệ người dùng trước nguy cơ bị lạm dụng hình ảnh.

Các bước cần thiết để bảo vệ bản thân bao gồm:

• Hạn chế chia sẻ hình ảnh nhạy cảm trên mạng xã hội.
• Sử dụng các công cụ tìm kiếm ngược để kiểm tra xem hình ảnh của mình có bị sử dụng trái phép hay không.
• Báo cáo ngay cho nền tảng nếu phát hiện nội dung giả mạo về mình.

Meta và các nền tảng khác cần phải coi đây là một lời cảnh báo nghiêm khắc. Việc chỉ dựa vào AI để kiểm duyệt nội dung là chưa đủ. Cần có sự kết hợp giữa công nghệ và đội ngũ kiểm duyệt viên con người được đào tạo bài bản, cùng với các chính sách rõ ràng và biện pháp trừng phạt mạnh tay đối với những kẻ vi phạm.