Chatbot Grok của Elon Musk vẫn tiếp tục lưu trữ hình ảnh deepfake khiêu dâm trái phép

Chatbot Grok của Elon Musk vẫn tiếp tục lưu trữ hình ảnh deepfake khiêu dâm trái phép

Một cuộc điều tra mới đây của tạp chí WIRED đã phát hiện ra rằng chatbot Grok của Elon Musk đang bị sử dụng để sản xuất và lưu trữ các hình ảnh, video khiêu dâm không có sự đồng thuận của phụ nữ. Điều này diễn ra bất chấp việc công ty trí tuệ nhân tạo xAI của ông Musk từng cam kết sẽ áp dụng các biện pháp hạn chế để ngăn chặn việc tạo ra các deepfake gợi dục có hại.

Hệ thống tạo sinh AI Grok Imagine đã bị lợi dụng để tạo ra và lưu trữ hình ảnh, video mô tả người nổi tiếng và ít nhất một chính trị gia trong các tình huống bị ép buộc, thực hiện hành vi tình dục hoặc để lộ thân thể hoàn toàn. Phân tích của WIRED cho thấy, trong khi một số hình ảnh có phong cách hoạt hình hoặc do AI tạo hoàn toàn, số khác lại có độ chân thực cao (photorealistic), mô phỏng các kịch bản đời thực đáng sợ.

Thiếu hụt hàng rào an toàn

WIRED đã rà soát hàng trăm liên kết công khai được lưu trữ trên Grok.com và phát hiện hàng chục liên kết dẫn đến hình ảnh, video AI gợi dục, bao gồm những nội dung được tạo ra mà không có sự đồng thuận của chủ thể. Các liên kết này sau đó đã được chia sẻ rộng rãi trên nền tảng X (trước đây là Twitter).

So với các hệ thống AI tạo sinh khác trên thị trường, Grok hiện có các hàng rào an toàn lỏng lẻo hơn. Henry Ajder, một chuyên gia theo dõi nội dung AI khiêu dâm trực tuyến trong nhiều năm, nhận định: "Mặc dù Grok và X có thể đã thực hiện một số sửa đổi đối với mô hình, đặc biệt là sau làn sóng chỉ trích về việc 'cởi đồ' (nudification) vào đầu năm, nhưng họ vẫn chưa làm đủ để đưa tiêu chuẩn của mình ngang hàng với các công cụ chính thống khác."

Các thử nghiệm của WIRED cho thấy hai câu lệnh (prompt) được dùng để tạo tài liệu trên Grok đã bị OpenAI’s ChatGPT, Meta AI và Anthropic’s Claude từ chối vì lý do không phù hợp. Google’s Gemini cũng tạo ra một hình ảnh nhưng từ chối một câu lệnh khác.

Vấn đề pháp lý và đạo đức

Vấn đề này đặt ra những lo ngại lớn về an ninh mạng và quyền riêng tư. xAI của ông Musk đang đối mặt với hàng loạt vụ kiện và sự giám sát của các cơ quan quản lý trên toàn cầu kể từ tháng 1 năm nay. Thời điểm đó, việc triển khai Grok trên X đã dẫn đến làn sóng hình ảnh "nudification" tràn lan.

Trong số các bài đăng được lưu trữ trên Grok.com, WIRED đã xác định được hình ảnh và video về nhiều người nổi tiếng, bao gồm cả Dân biểu Hoa Kỳ Alexandria Ocasio-Cortez. Một video khác dường như mô tả Ashley St. Clair — người từng có mối quan hệ với Musk và là mẹ của một trong những đứa con của ông — đang mặc bikini khiêu vũ. Vào tháng 1, bà St. Clair đã khởi kiện xAI sau khi các deepfake khiêu dâm của bà xuất hiện trên X.

Imran Ahmed, CEO của Trung tâm Chống lại Sự Ghét bỏ Kỹ thuật số (CCDH), chỉ trích mạnh mẽ: "Elon Musk đã cố ý thêm một tính năng méo mó vào nền tảng của mình giúp người dùng cởi đồ phụ nữ và trẻ em chỉ bằng một cú nhấp chuột, hoàn toàn không quan tâm đến thiệt hại có thể dự đoán trước đó."

Phản ứng của công ty và rủi ro tài chính

Cả xAI và X đều chưa đưa ra bình luận ngay lập tức về các hình ảnh khiêu dâm được lưu trữ trên Grok.com mà WIRED tìm thấy. Tuy nhiên, sau khi WIRED liên hệ, các hình ảnh và video rõ ràng này dường như không còn khả dụng và các liên kết Grok Imagine được chia sẻ trên X đã bị gỡ bỏ vì vi phạm chính sách.

Không giống như các hệ thống AI khác như OpenAI hay Google, Grok và xAI không né tránh việc cho phép nội dung tình dục nói chung, từng giới thiệu các chế độ "Spicy" (Gợi cảm) và "Unhinged" (Bất chấp). Musk từng tuyên bố Grok được phép "hiển thị nudity phần thân trên của người lớn tưởng tượng" và nhất quán với những gì khán giả thấy trong phim phân loại R.

Tuy nhiên, rủi ro pháp lý đang gia tăng. Vào tháng 5, SpaceX (được bài gốc đề cập là công ty mẹ của xAI) đã cảnh báo các nhà đầu tư rằng họ đã dành ra 530 triệu USD để xử lý các khiếu nại pháp lý đang diễn ra, bao gồm những vấn đề liên quan đến Grok. Đồng thời, Ủy viên Bảo mật Dữ liệu Canada cũng đã công bố kết quả điều tra sơ bộ, cáo buộc xAI vi phạm luật bảo mật tư nhân của liên bang vì không áp dụng "các biện pháp bảo vệ thích hợp ngay từ đầu".