Apple đe dọa loại bỏ ứng dụng Grok khỏi App Store do vấn đề deepfake

Apple đã đe dọa sẽ loại bỏ ứng dụng Grok của Elon Musk khỏi App Store vào tháng 1 năm nay sau khi phát hiện công ty xAI không thực hiện đủ biện pháp ngăn chặn việc tạo ra các deepfake có nội dung khiêu dâm hoặc tình dục.

Thông tin này được Apple đưa ra trong một bức thư gửi cho các thượng nghị sĩ Mỹ, nội dung bức thư đã được NBC News tiếp cận được.

Elon Musk và Tim Cook

Sự việc diễn ra trong bối cảnh các ứng dụng AI đang chịu sự giám sát ngày càng chặt chẽ về các vấn đề an toàn và kiểm duyệt nội dung. Apple cho rằng cả X (trước đây là Twitter) và ứng dụng Grok đều đã vi phạm các nguyên tắc hướng dẫn của App Store.

Trong thư, Apple nhấn mạnh rằng họ đã yêu cầu xAI phải thực hiện các biện pháp thực thi nhanh chóng để ngăn chặn sự lan rộng của những nội dung sâu (deepfakes) độc hại này. Nếu không tuân thủ, ứng dụng sẽ đối mặt với nguy cơ bị gỡ bỏ hoàn toàn khỏi nền tảng của Apple.

Đây là một bước đi mạnh tay của Táo Khuyết, cho thấy cam kết của hãng trong việc duy trì môi trường ứng dụng sạch sẽ và an toàn cho người dùng, đặc biệt là liên quan đến công nghệ tạo sinh có khả năng bị lạm dụng.

Mối quan hệ giữa Apple và Elon Musk đôi khi khá phức tạp. Dù hai CEO của các công ty này đôi khi có những màn chốt hạ công khai, nhưng những ràng buộc về pháp lý và chính sách nền tảng vẫn là tiêu chí hàng đầu mà Apple yêu cầu mọi nhà phát triển, kể cả những gã khổng lồ công nghệ, phải tuân thủ.

Vấn đề deepfake, đặc biệt là deepfake khiêu dâm, đang trở thành một mối lo ngại lớn trên toàn cầu. Nhiều nền tảng và nhà sản xuất thiết bị đang tăng cường các biện pháp kiểm toán để ngăn chặn công nghệ AI bị sử dụng cho mục đích quấy rối hoặc xâm phạm đời tư.

Theo thông tin từ thư của Apple, công ty đã yêu cầu xAI cung cấp thông tin chi tiết về việc họ sẽ xử lý các vi phạm này như thế nào trong tương lai để tránh việc bị đình chỉ ứng dụng.