Grok suýt bị Apple cấm cửa khỏi App Store vì bê bối deepfake khiêu dâm

Apple đã yêu cầu nhóm phát triển khắc phục vấn đề hoặc đối mặt với việc bị gỡ bỏ khỏi App Store.

Theo báo cáo của NBC News, Apple đã âm thầm đe dọa loại bỏ ứng dụng AI Grok của Elon Musk khỏi App Store vào tháng 1 năm nay. Nguyên nhân là do sự thất bại trong việc ngăn chặn làn sóng deepfake tình dục không có sự đồng thuận đang tràn ngập trên nền tảng X.

Đây là một hành động hiếm hoi nhưng được thực hiện khá kín đáo từ một trong những "người gác cổng" quyền lực nhất ngành công nghệ, diễn ra ngay cả khi cuộc khủng hoảng về việc tạo ảnh "cởi đồ" đang bùng phát công khai và sự chỉ trích về thái độ thụ động của Apple ngày càng tăng.

Apple và App Store

Áp lực từ Apple và quy định kiểm duyệt

Trong một bức thư gửi cho các thượng nghị sĩ Mỹ, Apple xác nhận họ đã "liên hệ với các nhóm đứng sau cả X và Grok sau khi nhận được khiếu nại và thấy các tin tức về vụ bê bối". Apple yêu cầu các nhà phát triển phải "tạo ra một kế hoạch để cải thiện việc kiểm duyệt nội dung".

Tại thời điểm đó, chatbot Grok của xAI có thể truy cập tự do trên X và dưới dạng ứng dụng độc lập. Các biện pháp bảo vệ lỏng lẻo của nó cho phép người dùng dễ dàng tạo và chia sẻ các deepfake tình dục cũng như hình ảnh "cởi đồ" của người thật, chủ yếu là phụ nữ và một số trường hợp dường như là trẻ vị thành niên.

Đây là những vi phạm rõ ràng đối với các nguyên tắc của App Store, những quy định mà Apple thường áp dụng một cách cực kỳ nghiêm ngặt.

Quy trình răn đe và kết quả

Apple cho biết họ đã xem xét các thay đổi được đề xuất cho các ứng dụng X và Grok. Trong khi công ty kết luận rằng X đã "giải quyết cơ bản các vi phạm", thì Grok vẫn "không tuân thủ quy định". Apple đã cảnh báo nhà phát triển rằng "cần có thêm các thay đổi để khắc phục vi phạm, nếu không ứng dụng sẽ bị gỡ bỏ khỏi App Store".

Chỉ sau nhiều lần qua lại thêm, Apple mới xác định rằng Grok đã "được cải thiện đáng kể" và phê duyệt ứng dụng này.

Tuy nhiên, quá trình qua lại kín đáo này dường như không giải quyết triệt để vấn đề. Mặc dù Apple đã phê duyệt và xAI tuyên bố đã thắt chặt các biện pháp an toàn, Grok dường như vẫn có khả năng tạo ra deepfake tình dục một cách tương đối dễ dàng.

Các nguồn tin an ninh mạng cho biết họ đã có thể tạo ra hình ảnh nhạy cảm của người nổi tiếng và các nhân vật chính trị bằng công cụ này. Các cuộc điều tra độc lập cũng chỉ ra rằng các biện pháp hạn chế gần đây, chẳng hạn như chặn Grok chỉnh sửa ảnh người dùng, đều có thể dễ dàng bị lách luật.

Google, thông qua cửa hàng ứng dụng Google Play, cũng kiếm lợi tương tự từ các ứng dụng này nhưng chưa đưa ra bình luận công khai nào về vấn đề.