Một phụ nữ giấu tên đã tham gia vụ kiện chống lại xAI, cáo buộc cha dượng của cô dùng chatbot Grok để biến ảnh chụp lúc 11 tuổi thành hơn 7.000 hình ảnh khiêu dâm. Vụ việc làm dấy lên lo ngại nghiêm trọng về việc AI tạo sinh bị lạm dụng để sản xuất nội dung lạm dụng tình dục trẻ em, đồng thời đặt câu hỏi về trách nhiệm của các công ty công nghệ trong việc kiểm soát công cụ của mình.

Người phụ nữ tố cáo cha dượng dùng Grok biến ảnh thời thơ ấu thành hình ảnh khiêu dâm

Một phụ nữ giấu tên (được xác định là Jane Doe 4) đã chính thức tham gia vụ kiện do ba thiếu niên ở Tennessee khởi xướng chống lại xAI của Elon Musk. Cô cáo buộc rằng chatbot Grok đã bị cha dượng của cô lạm dụng để tạo ra hơn 7.000 hình ảnh khiêu dâm từ một tấm ảnh chụp cô lúc mới 11 tuổi.

Theo báo cáo từ The Washington Post, người phụ nữ này cho biết cha dượng của cô đã sử dụng Grok để thao túng bức ảnh thời thơ ấu, biến nó thành nội dung khiêu dâm trái phép. Đáng chú ý, cha dượng của cô được phát hiện đã tự tử hai ngày sau khi lực lượng thực thi pháp luật khám xét và phát hiện những hình ảnh này.

Lo ngại về AI tạo sinh và nạn lạm dụng tình dục trẻ em

Trong một tuyên bố đầy xúc động, người phụ nữ này nhấn mạnh: "Việc tiếp cận không giới hạn với các công cụ này đang lan truyền quá nhanh. Chúng đang biến cuộc sống hàng ngày thành nội dung lạm dụng tình dục trẻ em."

Vụ kiện cáo buộc xAI (hiện thuộc SpaceX) đã thất bại trong việc thực hiện các biện pháp phòng ngừa cơ bản để ngăn chặn Grok bị sử dụng nhằm tạo ra hình ảnh khiêu dâm của người thật, bao gồm cả trẻ vị thành niên. Điều này càng trở nên nghiêm trọng khi X (nền tảng mạng xã hội của Musk) từng bị tràn ngập bởi hàng triệu hình ảnh khiêu dâm do Grok tạo ra hồi đầu năm nay.

Hệ lụy pháp lý và trách nhiệm của công ty công nghệ

Các nguyên đơn đang yêu cầu vụ kiện được công nhận là hành động tập thể (class action), nhằm tạo tiền lệ pháp lý cho các nạn nhân khác có hoàn cảnh tương tự. TechCrunch đã liên hệ với xAI để xin bình luận nhưng chưa nhận được phản hồi.

Vụ việc này đặt ra câu hỏi lớn về trách nhiệm của các công ty phát triển AI trong việc xây dựng cơ chế an toàn, đặc biệt khi các công cụ như Grok ngày càng trở nên phổ biến. Tại Việt Nam, việc sử dụng AI tạo sinh cũng đang gia tăng nhanh chóng, kéo theo nhu cầu cấp thiết về khung pháp lý và giải pháp kỹ thuật để ngăn chặn những hành vi lạm dụng tương tự.

Nếu bạn đang trong khủng hoảng hoặc có ý định tự tử, hãy gọi hoặc nhắn tin đến số 988 để kết nối với Đường dây cứu trợ khủng hoảng và ngăn chặn tự tử.