Grok tiếp tục bị phát hiện lưu trữ hình ảnh deepfake nhạy cảm trái phép của người nổi tiếng

Chatbot Grok của Elon Musk dường như vẫn đang được sử dụng để sản xuất và lưu trữ các hình ảnh, video khiêu dâm không có sự đồng thuận của phụ nữ. Điều này xảy ra nhiều tháng sau khi công ty AI xAI của Musk tuyên bố sẽ áp dụng các hạn chế để ngăn chặn việc tạo ra các deepfake tình dục có hại.

Những tiết lộ này xuất hiện vào thời điểm nhạy cảm, khi SpaceX - được bài viết đề cập là công ty mẹ của xAI - chuẩn bị thực hiện một trong những đợt IPO lớn nhất lịch sử.

Cuộc điều tra và các phát hiện đáng lo ngại

Hệ thống AI tạo sinh Grok Imagine đã được sử dụng để tạo và lưu trữ hình ảnh, video mô tả người nổi tiếng và ít nhất một chính trị gia bị một người khổng lồ giam cầm trái ý, phụ nữ thực hiện hành vi tình dục và để lộ thân thể hoàn toàn. Theo phân tích của WIRED về các nội dung công khai, trong khi một số hình ảnh và video là do AI tạo hoàn toàn hoặc theo phong cách hoạt hình, những hình ảnh khác lại có độ chân thực cao (photorealistic) và mô tả các tình huống đời thực rất đáng lo ngại.

WIRED đã xem xét hàng trăm liên kết công khai của Grok Imagine được lưu trữ trên Grok.com và phát hiện ra hàng chục liên kết dẫn đến hình ảnh và video AI mang tính tình dục, bao gồm cả những nội dung được tạo ra mà không có sự đồng thuận của chủ thể. Một số liên kết được tạo trên Grok.com sau đó đã được chia sẻ lên mạng xã hội X (trước đây là Twitter) trong những ngày gần đây.

So sánh với các đối thủ khác

Các hệ thống AI tạo sinh khác trên thị trường hiện nay áp dụng các rào chắn an toàn nghiêm ngặt hơn nhiều so với Grok. Henry Ajder, một chuyên gia theo dõi nội dung AI khiêu dâm trực tuyến gần một thập kỷ qua, nhận định: "Trong khi Grok và X có thể đã thực hiện một số sửa đổi đối với mô hình của họ, đặc biệt là sau làn sóng chỉ trích về việc 'cởi đồ' (nudification) vào đầu năm, họ vẫn chưa làm đủ công việc để đưa tiêu chuẩn lên ngang hàng với các công cụ chính thống khác có sẵn hiện nay".

WIRED đã thử nghiệm hai câu lệnh (prompt) được dùng để tạo tài liệu trên Grok và thấy rằng chúng bị OpenAI (ChatGPT), Meta AI và Anthropic (Claude) từ chối vì không phù hợp. Google Gemini đã tạo ra một hình ảnh về một người nổi tiếng bị giữ trong tay người khổng lồ, nhưng cũng từ chối một câu lệnh khác.

Vấn đề pháp lý và phản hồi của công ty

Kể từ tháng 1, xAI của Musk đã đối mặt với làn sóng kiện tụng và sự giám sát gắt gao từ các cơ quan quản lý trên toàn cầu. Vào thời điểm đó, việc triển khai Grok trên X đã bị lợi dụng để tạo ra một làn sóng hình ảnh "nudification". Người dùng trên X - chủ yếu là nam giới - đã yêu cầu chatbot chỉnh sửa ảnh để cho thấy phụ nữ mặc "bikini" hoặc "bikini dây". Theo một vụ kiện tập thể được đệ trình tại tòa án liên bang California vào tháng 3, hình ảnh của những người có vẻ như là vị thành niên cũng bị tình nghi là bị tình dục hóa.

Trong số các bài đăng được lưu trữ trên Grok.com, WIRED đã xác định được hình ảnh và video mô tả nhiều người nổi tiếng cũng như Dân biểu Hoa Kỳ Alexandria Ocasio-Cortez. Trong các video, những người phụ nữ này được mô tả là mặc rất ít quần áo trong khi bị nắm trong nắm đấm của một bàn tay "khổng lồ".

Cả xAI và X đều không phản hồi ngay lập tức yêu cầu bình luận của WIRED về loạt hình ảnh khiêu dâm được lưu trữ trên Grok.com. Tuy nhiên, sau khi WIRED liên hệ, các hình ảnh và video khiêu dâm mà WIRED tìm thấy trên Grok.com dường như không còn khả dụng, và các liên kết Grok Imagine được chia sẻ trên X đã bị gỡ bỏ vì vi phạm chính sách.

Hệ quả tài chính và điều tiết

Vấn đề an toàn nội dung này đang gây áp lực lớn lên xAI khi công ty mẹ chuẩn bị lên sàn chứng khoán. Vào tháng 5, SpaceX đã cảnh báo các nhà đầu tư tiềm năng rằng họ đã dành riêng 530 triệu USD để xử lý các khiếu nại pháp lý đang diễn ra, bao gồm những vấn đề liên quan đến Grok. Tài liệu đệ trình cho biết các chế độ này có thể mang tính "vô lễ" và "khắt khe" hơn, dẫn đến rủi ro cao hơn, bao gồm cả việc tạo ra nội dung khiêu dâm và hình ảnh không có sự đồng thuận.

Trước thềm đợt IPO vào thứ Sáu, Ủy viên Bảo mật Dữ liệu Canada đã công bố kết quả sơ bộ của cuộc điều tra về các vi phạm deepfake của xAI và Grok vào tháng 1. Cuộc điều tra cáo buộc xAI đã vi phạm luật bảo mật tư nhân của liên bang Canada vì không bao gồm "các biện pháp bảo vệ thích hợp ngay từ đầu". Mặc dù xAI cho biết đã đưa ra các biện pháp bảo vệ mới để ngăn chặn việc thay đổi trang phục trong ảnh, nhưng Ủy viên Bảo mật Dữ liệu vẫn chưa thuyết phục về hiệu quả của những thay đổi này.