Apple siết chặt quy định, cấm ứng dụng "nudify" ngụy trang để qua mặt kiểm duyệt

Apple vừa cập nhật bộ nguyên tắc dành cho nhà phát triển trong dịp cuối tuần, qua đó chính thức cấm các ứng dụng sử dụng AI để tạo nội dung phản cảm, cũng như những ứng dụng ngụy trang thành phần mềm thông thường để vượt qua khâu kiểm duyệt App Store rồi sau đó "lột xác" thành công cụ tạo ảnh khỏa thân (nudify) hoặc đưa tính năng này lên vị trí dễ thấy.

Quy định mới nhắm thẳng vào chiêu "bait-and-switch"

Theo bài đăng trên blog của Apple, hãng đã bổ sung ngôn ngữ cứng rắn hơn về AI và nội dung do người dùng tạo, đồng thời quy định rõ nhà phát triển phải trang bị đủ biện pháp phòng ngừa để kiểm duyệt những nội dung phản cảm hoặc xúc phạm.

"Các ứng dụng chứa nội dung do người dùng tạo buộc phải lọc những tài liệu phản cảm, cho người dùng cách báo cáo nội dung xúc phạm và cho phép chặn các tài khoản có hành vi lạm dụng. Ứng dụng chứa tính năng ẩn hoặc không được khai báo cũng bị cấm trên App Store, bao gồm cả những ứng dụng xuyên tạc mục đích trong lúc kiểm duyệt và chỉ để lộ khả năng gây hại — chẳng hạn "nudification" — sau khi được duyệt, một thủ thuật thường được gọi là bait-and-switch", Apple cho biết.

Hãng cũng nêu rõ sẽ gỡ bỏ những ứng dụng bổ sung tính năng không có trong phiên bản đã nộp để xét duyệt.

Siết chặt cả phần pháp lý

Bên cạnh phần hướng dẫn kỹ thuật, Apple còn cập nhật ngôn ngữ trong mục pháp lý nhằm khẳng định lại việc sẽ chặn các ứng dụng cổ xúy nạn buôn người và bóc lột trẻ em.

Theo số liệu Apple công bố hồi năm ngoái, quy trình kiểm duyệt của hãng đã ngăn hơn 150.000 ứng dụng tiếp cận người dùng và xóa 193.000 tài khoản nhà phát triển vì gian lận và lạm dụng.

Bối cảnh pháp lý tại Mỹ

Động thái của Apple diễn ra trong bối cảnh áp lực pháp lý ngày càng tăng. Hồi tháng 7, chính quyền thành phố San Francisco đã yêu cầu cả Apple và Google phải dọn dẹp và xóa các ứng dụng nudify khỏi kho ứng dụng của mình. Luật sư thành phố David Chiu cáo buộc hai công ty hưởng lợi từ những ứng dụng này thông qua phí hoa hồng trên cửa hàng.

Trước đó vào tháng 4, một báo cáo của Tech Transparency Project chỉ ra rằng kho ứng dụng của cả hai "gã khổng lồ" công nghệ đều đang chứa nhiều ứng dụng nudify, trong đó có một số được dán nhãn phù hợp với trẻ vị thành niên.

Ý nghĩa với người dùng Việt Nam

Với người dùng iPhone tại Việt Nam, việc Apple siết chặt quy định giúp giảm nguy cơ tải phải những ứng dụng "đội lốt" phần mềm vô hại nhưng thực chất tạo ảnh khiêu dâm giả mạo bằng AI — một mối lo ngại về quyền riêng tư và an ninh cá nhân ngày càng rõ rệt khi công cụ AI tạo ảnh trở nên phổ biến.

Tuy vậy, giới quan sát cho rằng các nền tảng cần nhiều hơn những cam kết bằng văn bản. Việc kiểm duyệt chủ động, kết hợp với công cụ phát hiện nội dung do AI tạo ra, sẽ là yếu tố then chốt để bảo đảm các quy định mới thực sự có hiệu lực trên thực tế.