Meta chậm trễ gỡ quảng cáo dùng AI 'khỏa thân' hình ảnh trẻ em thật

Meta vừa hứng chịu một chỉ trích nặng nề khi để lọt qua "lưới" của mình hàng trăm quảng cáo chứa nội dung lạm dụng tình dục trẻ em (CSAM) được tạo ra bởi trí tuệ nhân tạo (AI) trên hai nền tảng lớn là Facebook và Instagram. Điều đặc biệt nghiêm trọng là các quảng cáo này không chỉ dùng hình ảnh do AI sinh ra mà còn "khỏa thân" cả những bức ảnh của trẻ em có thật trên mạng xã hội, gây ra những tổn thương không thể bù đắp.

Theo một cuộc điều tra được công bố hôm thứ Ba bởi Tech Transparency Project (TTP), Meta đã thất bại trong việc phát hiện và xử lý tới 332 quảng cáo chứa CSAM trong năm nay. Đa số các quảng cáo này quảng bá cho các ứng dụng AI được phát triển tại Trung Quốc, đặc biệt là các ứng dụng "nudify" (khỏa thân hóa) - công cụ cho phép người dùng xấu sử dụng AI để chỉnh sửa ảnh kỹ thuật số một cách dễ dàng và tinh vi.

Điều tra của TTP cho thấy một thực tế rùng rợn: nhiều quảng cáo CSAM được ghép từ chính những bức ảnh của trẻ em thật xuất hiện trên mạng. Cụ thể, hình ảnh của một thành viên trẻ tuổi trong một gia đình hoàng gia châu Âu đã bị biến thành một video khiêu dâm. Một nạn nhân khác là bé gái 14 tuổi có tài khoản Instagram nổi tiếng, bức ảnh cô bé mặc đồng phục câu lạc bộ thể thao mới đã bị biến thành video mô phỏng hành vi quan hệ tình dục bằng miệng. Một nạn nhân "tiền dậy thì" khác trong bộ ảnh tạo dáng với bộ đồ thể thao màu hồng cũng bị biến thành video bị xâm hại bởi một người đàn ông trưởng thành.

Hành vi vi phạm pháp luật nghiêm trọng

Những quảng cáo này không chỉ vi phạm chính sách cộng đồng của Meta mà còn có dấu hiệu vi phạm luật pháp liên bang Hoa Kỳ. Bộ Tư pháp nước này đã nhấn mạnh rằng CSAM do AI tạo ra cũng gây hại tương đương với CSAM thực tế.

Việc Meta mất nhiều ngày để gỡ bỏ các quảng cáo chứa nội dung ấu dâm được tạo ra bởi AI là một sự thất bại nghiêm trọng của hệ thống kiểm duyệt và quy trình xử lý báo cáo của họ.

Vấn đề lớn trong quản lý nội dung AI

Sự việc này một lần nữa gióng lên hồi chuông cảnh báo về năng lực kiểm duyệt nội dung của các tập đoàn công nghệ lớn, đặc biệt khi các công cụ AI ngày càng trở nên phổ biến và dễ tiếp cận. Meta đã đầu tư rất lớn vào các hệ thống AI để phát hiện nội dung xấu, tuy nhiên, các quảng cáo dạng này cho thấy vẫn còn những "lỗ hổng chết người".

Góc nhìn cho người dùng Việt Nam

Mặc dù cuộc điều tra tập trung vào thị trường quốc tế, nhưng đây là một lời cảnh báo quan trọng cho các bậc phụ huynh và người dùng mạng xã hội tại Việt Nam. Với sự phát triển nhanh chóng của các ứng dụng AI tại Việt Nam và trong khu vực, việc bảo vệ hình ảnh của trẻ em trên không gian mạng là vô cùng cấp thiết.

Các chuyên gia khuyến cáo phụ huynh nên hạn chế đăng tải công khai hình ảnh của con em mình, đặc biệt là những bức ảnh nhạy cảm, và cần kiểm tra kỹ các cài đặt quyền riêng tư trên các tài khoản mạng xã hội. Việc giáo dục trẻ về những nguy cơ tiềm ẩn trên mạng cũng quan trọng không kém việc trang bị kiến thức công nghệ.

Meta hiện vẫn chưa đưa ra bình luận chính thức nào về kết quả điều tra này, tuy nhiên, sức ép từ dư luận và các cơ quan quản lý đang ngày càng lớn dần lên đối với "gã khổng lồ" công nghệ này.