xAI yêu cầu tòa buộc nạn nhân deepfake của Grok phải lộ danh tính thật

Công ty trí tuệ nhân tạo xAI của Elon Musk đang yêu cầu tòa án buộc bốn cá nhân phải công khai danh tính thật trong vụ kiện tập thể liên quan đến việc chatbot Grok tạo ra hình ảnh deepfake nhạy cảm. Theo các tài liệu tòa án mới đệ trình, một trong số các nạn nhân dường như là mục tiêu của những hình ảnh deepfake tình dục khi còn là trẻ em.

Vào ngày 29 tháng 5, bốn nguyên đơn chính — hiện đang được ẩn danh dưới các tên gọi như Nam Carolina Doe, Nam Carolina Roe, New Jersey Doe và Ohio Doe — đã mô tả trong các tuyên thệ về sự đau khổ tinh thần mà họ phải chịu đựng sau khi các hình ảnh deepfake bị tạo ra vào đầu năm nay. Các tài liệu cho biết, họ lo ngại việc bị quấy rối và doxxing (đ lộ thông tin cá nhân) trực tuyến thêm nếu bị buộc phải sử dụng tên thật trong vụ kiện chống lại xAI.

Sophia Rios, luật sư đại diện cho các cá nhân này từ công ty luật Berger Montague, đã viết trong một hồ sơ gần đây: “Sau khi đã cởi bỏ quần áo của họ, xAI giờ đây tìm cách tước đi bút danh của các nguyên đơn trong một nỗ lực rõ ràng nhằm đe dọa họ buộc phải rút khỏi vụ kiện bằng cách gia tăng những tổn hại mà họ đang tìm cách khắc phục”.

Bối cảnh vụ kiện Grok

Vào tháng 1, việc sử dụng chatbot Grok thuộc sở hữu của Elon Musk đã gây phẫn nộ toàn cầu khi hàng loạt nam giới đã sử dụng hệ thống AI tạo sinh này để tạo ra hình ảnh giả của phụ nữ “khỏa thân” và mặc bikini. Những hình ảnh này, được đăng lên nền tảng X, bao gồm cả những hình ảnh tình dục dường như của trẻ em. Phân tích từ Trung tâm Chống Kẻ thù Số (CCDH) cho biết Grok đã được sử dụng để tạo ra khoảng 3 triệu hình ảnh tình dục chỉ trong 11 ngày, với 23.000 hình ảnh trong số đó có thể bao gồm trẻ em.

Đối mặt với làn sóng kiện tụng và quy định trên toàn thế giới, SpaceX, hiện sở hữu xAI, đã dành ra hơn 500 triệu USD để giải quyết các hậu quả này.

Vụ kiện tập thể chống lại xAI ban đầu được đệ trình vào tháng 1 với một nguyên đơn chính ẩn danh. Một thẩm phán tại Tòa án Quận Hoa Kỳ cho Quận Bắc của California đã phê duyệt một lệnh cho phép họ tham gia với tư cách là Jane Doe. Vụ án sau đó được đệ trình lại với bốn nguyên đơn chính ẩn danh vào đầu tháng 5.

Cuộc chiến pháp lý về quyền riêng tư

Giữa tháng 5, xAI đã đệ trình hai đơn kiến nghị lên tòa án quận liên bang ở Bắc California, yêu cầu thẩm phán lật lại phán quyết cho phép sử dụng bút danh trong vụ việc. Các tài liệu cho biết theo luật tòa án dân sự, các vụ án phải nêu tên tất cả các bên liên quan.

Các luật sư của xAI lập luận rằng những người khởi kiện nên sử dụng tên thật vì có lợi ích công cộng đối với danh tính của những người kiện công ty. Họ tuyên bố không có bằng chứng nào được đưa ra về bất kỳ tổn hại cụ thể hoặc mối đe dọa nào thêm đối với các cá nhân trong vụ việc. Họ cũng nói rằng vì hình ảnh deepfake sẽ không được công khai như một phần của vụ kiện, điều này nên xoa dịu mọi lo ngại về quyền riêng tư.

“Loại trừ chính hình ảnh deepfake — vì nó sẽ được giữ kín — không có gì inherently mang tính stigma (ô danh) khi việc tiết lộ thực tế là một hình ảnh deepfake đã được tạo ra của Nam Carolina Doe mà không tiết lộ hình ảnh đó”, các luật sư của xAI viết trong một hồ sơ ngày 15 tháng 5.

Tuy nhiên, các nguyên đơn tuyên bố họ sẽ cung cấp tên và thông tin cá nhân cho công ty nhưng muốn sử dụng bút danh trước công chúng để bảo vệ quyền riêng tư và giảm thiểu khả năng bị quấy rối trực tuyến. Hình ảnh deepfake của các nguyên đơn không được bao gồm trong bất kỳ hồ sơ pháp lý công khai nào.

Nỗi sợ hãi của các nạn nhân

Theo các hồ sơ pháp lý mới nhất, cả bốn nguyên đơn ẩn danh đều cân nhắc việc rút khỏi thủ tục nếu tên của họ bị buộc phải tiết lộ. Luật sư của các nguyên đơn cho biết yêu cầu của xAI nên bị từ chối, nhấn mạnh rằng vụ việc liên quan đến những “deepfake mang tính cá nhân và gây xấu hổ cao độ mô tả các nguyên đơn được phát tán mà không có sự đồng ý của họ”.

Nam Carolina Doe mô tả việc cô phát hiện ra hình ảnh deepfake bịa đặt của mình “trải xuống một chiếc bikini hở hang” trên mạng và nói rằng nó cho thấy cơ thể cô “theo một cách mà tôi sẽ không bao giờ chia sẻ công khai”. Cô lo ngại về việc chủ nhân hoặc đồng nghiệp sẽ nghĩ gì nếu nhìn thấy hình ảnh này.

“Nếu tôi bị buộc phải công khai tên mình như một phần của vụ việc này, tôi sẽ sợ rằng những người ủng hộ Elon Musk, các công ty của ông ấy và Grok — những người tôi quan sát thấy rất ồn ào trên mạng — sẽ tìm thấy tên tôi trong hồ sơ công khai, phát tán nó, doxxing tôi và trả đũa tôi bằng cách tạo ra thêm những hình ảnh deepfake khác cực đoan hơn”, đơn kiện cho biết.

Một nam giới, được gọi là New Jersey Doe trong vụ kiện, cho biết anh đã thấy mọi người trên X sử dụng Grok để tạo ra hình ảnh tình dục và đã đăng một yêu cầu “Grok không tạo hình ảnh của tôi mà không có sự đồng ý của tôi”. Ngày hôm sau, hồ sơ tòa án cho biết, anh đã phát hiện ra hai hình ảnh deepfake của chính mình, bao gồm một hình ảnh mô tả anh đang “tách hai mông”. Anh tin rằng tin nhắn gửi cho Grok đã thu hút sự chú ý của những kẻ bắt nạt trên mạng.

Đáng lo ngại nhất là trường hợp của Nam Carolina Roe, người cáo buộc Grok đã được sử dụng để tạo ra hình ảnh khiêu dâm của cô khi còn là một đứa trẻ. Các hồ sơ tòa án cho biết vào tháng 2, cảnh sát đã khám xét nhà của Roe, nơi cô sống cùng cha mẹ.

“Tôi đã biết từ các quan chức thực thi pháp luật rằng cha tôi đang đối mặt với các cáo buộc hình sự liên quan đến việc sở hữu và phân phối CSAM (nội dung lạm dụng tình dục trẻ em)”, các tài liệu cho biết.

“Tôi đã biết rằng Grok đã thay đổi một số hình ảnh mô tả tôi đang nằm trên giường với cha tôi. Grok đã thay đổi hình ảnh để làm cho nó trông giống như chúng tôi vừa hoàn thành một hành vi tình dục”, các tài liệu cho biết thêm, mặc dù cá nhân này chưa từng nhìn thấy các hình ảnh đó. Nam Carolina Roe cho biết việc công khai danh tính sẽ gây ra “thiệt hại không thể đo đếm”.

Danielle Citron, giáo sư luật tại Trường Luật Đại học Virginia, người chuyên về giải quyết lạm dụng kỹ thuật số, cho rằng việc buộc những người kiện trong các vụ án quyền riêng tư phải dùng tên thật là vô lý.

“Buộc các nguyên đơn trong các vụ án quyền riêng tư phải kiện dưới tên thật của họ đóng góp rất ít cho sự minh bạch của tư pháp nhưng lại làm rất nhiều để ngăn cản việc kiện tụng”, bà Citron nhận định.