Meta thất bại trong việc ngăn chặn hàng trăm quảng cáo lạm dụng trẻ em do AI tạo ra, bao gồm cả hình ảnh trẻ em thật

Meta đang phải đối mặt với làn sóng chỉ trích dữ dội sau khi các nhà nghiên cứu phát hiện hàng trăm quảng cáo chứa nội dung lạm dụng tình dục trẻ em (CSAM) được phát hành trên Facebook, Instagram và Threads. Đáng lo ngại hơn, nhiều quảng cáo trong số này sử dụng hình ảnh của trẻ em thật, được lấy từ các nguồn công khai trên mạng, sau đó bị biến đổi thành video khiêu dâm bằng công nghệ AI.

Phát hiện gây chấn động từ tổ chức phi lợi nhuận

Theo báo cáo từ Tech Transparency Project (TTP), một tổ chức phi lợi nhuận chuyên theo dõi các nền tảng công nghệ, họ đã phát hiện hơn 350 quảng cáo độc hại chứa nội dung ấu dâm được đăng tải trên các nền tảng của Meta kể từ cuối năm ngoái. Trong đó, hơn 250 quảng cáo mới được tìm thấy chỉ riêng từ đầu tháng 8.

Điều đặc biệt nghiêm trọng là các nhà nghiên cứu đã xác định được danh tính thực của 4 trẻ em bị lạm dụng hình ảnh trong các quảng cáo này, bao gồm:

• Một thiếu niên là thành viên hoàng gia châu Âu, với hình ảnh chính thức bị biến thành video đồi trụy
• Hai thiếu niên là người có ảnh hưởng trên mạng xã hội tại Mỹ
• Một người mẫu ảnh stock thực sự, được dán nhãn "trẻ vị thành niên" trên các trang web bán ảnh

"Những gì chúng ta đang nói đến ở đây không chỉ đơn thuần là nội dung ấu dâm do AI tạo ra," Katie Paul, giám đốc TTP, nhấn mạnh. "Có rất nhiều tổn hại có thể xảy ra từ việc này trong khi Meta vẫn đang kiếm tiền từ quá trình đó."

Cách thức hoạt động của các quảng cáo độc hại

Các quảng cáo này thường bắt đầu bằng một bức ảnh vô hại của trẻ em hoặc thiếu niên, với dòng chữ chồng lên như "không chỉ là một bức ảnh" hoặc "không có giới hạn nào". Khi video ngắn bắt đầu phát, khuôn mặt của trẻ em bị biến đổi thành các video khiêu dâm đồi trụy thông qua công nghệ AI face-swapping.

Khi người dùng nhấp vào, họ sẽ được chuyển hướng đến các ứng dụng "cởi đồ AI" (nudification) trên Apple App Store và Google Play Store. Đa số các ứng dụng này có liên kết với các nhà phát triển Trung Quốc, nơi các nền tảng của Meta bị cấm hoạt động.

Phản ứng của Meta và các cơ quan quản lý

Meta đã lên tiếng bảo vệ quan điểm của mình. Người phát ngôn Tracy Clayton cho biết: "Chúng tôi không dung thứ cho các ứng dụng nudify hoặc bất kỳ hình thức bóc lột trẻ em nào, dù là thật hay do AI tạo ra." Tuy nhiên, công ty cũng thừa nhận rằng nhiều quảng cáo đã được phát hành trước khi họ triển khai các công cụ AI mới để phát hiện và chặn nội dung độc hại.

Đáng chú ý, Meta cho biết họ chỉ nhận được dưới 5.000 USD tiền quảng cáo từ các quảng cáo này và đa số có ít hơn 200 lượt hiển thị. Tuy nhiên, dữ liệu từ chính kho quảng cáo của Meta cho thấy các quảng cáo này đã được hiển thị cho hơn 29.000 tài khoản tại Liên minh châu Âu và khoảng 7.000 tài khoản tại Anh.

Nhiều nhà lập pháp và cơ quan quản lý đã lên tiếng:

• Thượng nghị sĩ Mark Warner (Virginia) đã gửi thư cho CEO Mark Zuckerberg, cho rằng Meta "cần tuân thủ các tiêu chuẩn quảng cáo của chính mình và chấm dứt những quảng cáo bất hợp pháp này"
• Văn phòng Tổng chưởng lý Michigan xác nhận đang tích cực điều tra vụ việc
• Tổng chưởng lý Florida James Uthmeier cũng tuyên bố đang tiến hành điều tra
• Cơ quan quản lý internet eSafety của Australia đã yêu cầu Meta cung cấp thông tin cấp cao về vấn đề này

Hệ thống bảo vệ của Meta vẫn còn lỗ hổng nghiêm trọng

Theo phát hiện của TTP, trong một số trường hợp, Meta mất đến một tuần để xem xét và gỡ bỏ các quảng cáo chứa CSAM mà họ đã báo cáo. Trong thời gian đó, các quảng cáo này tiếp tục được hiển thị và thu hút thêm hàng trăm lượt xem.

Đáng lo ngại hơn, một số quảng cáo chứa nội dung ấu dâm khi bị gỡ xuống ban đầu không có thông báo vi phạm chính sách về lạm dụng tình dục trẻ em. Chỉ sau khi WIRED liên hệ với Meta, các thông báo này mới xuất hiện.

David Pham, cựu nhân viên Meta chuyên điều tra về lạm dụng hình ảnh, cho biết: "Những kẻ đăng tải nội dung này thường xuyên thay đổi tên miền, làm mờ hình ảnh hoặc thay đổi nhỏ để tránh bị phát hiện. Mỗi khi chúng tôi xây dựng một mô hình phát hiện mới, chúng sẽ tìm ra cách né tránh trong vòng một đến năm ngày."

Vụ việc này đặt ra câu hỏi lớn về trách nhiệm của các nền tảng công nghệ trong việc bảo vệ trẻ em, đặc biệt khi Meta đang phải trả tới 16,7 tỷ USD để giải quyết các vụ kiện liên quan đến việc gây hại cho trẻ em trên mạng xã hội của mình.