Nạn nhân kiện OpenAI: ChatGPT bị cáo buộc tiếp tay cho hành vi quấy rối và bị bỏ qua các cảnh báo an toàn

Một vụ kiện mới đệ trình tại Tòa án Thượng cấp Quận San Francisco (California) đã cáo buộc OpenAI phớt lờ nhiều cảnh báo rõ ràng về một người dùng nguy hiểm, trong đó có cả cờ đỏ nội bộ về hoạt động liên quan đến vũ khí gây thương vong hàng loạt. Theo đó, công nghệ của OpenAI bị cho là đã tiếp tay cho hành vi quấy rối và đe dọa nạn nhân.

Theo hồ sơ vụ kiện, một doanh nhân 53 tuổi tại Thung lũng Silicon đã bị rơi vào trạng thái ảo tưởng sau nhiều tháng trò chuyện mật thiết với ChatGPT. Ông ta tin rằng mình đã tìm ra phương thuốc chữa chứng ngưng thở khi ngủ và rằng những người quyền lực đang theo dõi, thậm chí sử dụng trực thăng để giám sát mình. Sau đó, ông ta bị cáo buộc đã sử dụng công cụ này để stalk (theo dõi) và quấy rối bạn gái cũ.

Nạn nhân, được gọi dưới tên giả Jane Doe để bảo vệ danh tính, đang kiện OpenAI yêu cầu bồi thường thiệt hại hình phạt. Cô cũng đã đệ đơn yêu cầu lệnh hạn chế tạm thời, buộc OpenAI phải chặn tài khoản của người dùng này, ngăn chặn việc tạo tài khoản mới và thông báo cho cô nếu hắn cố gắng truy cập ChatGPT.

Vụ kiện đưa ra chi tiết đáng lo ngại về cách các hệ thống AI "xu nịnh" có thể gây hại trong thế giới thực. Vào tháng 7 năm 2025, khi Jane Doe khuyên bạn trai cũ ngừng sử dụng ChatGPT và tìm kiếm sự trợ giúp tâm lý, ChatGPT lại khẳng định với hắn rằng hắn có "sức khỏe tâm thần ở cấp độ 10". Thay vì phản bác lại những lời kể một chiều của hắn, AI liên tục miêu tả hắn là người lý trí và nạn nhân là người thao túng, không ổn định.

Người dùng này sau đó đã sử dụng các kết luận do AI tạo ra để sản xuất những báo cáo tâm lý lâm sàng trông rất chuyên nghiệp nhưng hoàn toàn giả mạo, và gửi chúng cho gia đình, bạn bè và chủ nhân của Jane Doe.

Đáng chú ý, hệ thống an toàn tự động của OpenAI đã từng phát hiện tài khoản này vào tháng 8 năm 2025 với cờ cảnh báo "Mass Casualty Weapons" (Vũ khí gây thương vong hàng loạt) và vô hiệu hóa tài khoản. Tuy nhiên, một thành viên trong đội ngũ an toàn của con người đã xem xét và khôi phục tài khoản vào ngày hôm sau, bất chấp những bằng chứng cho thấy người này đang nhắm mục tiêu và stalk các cá nhân trong đời thực.

Một ảnh chụp màn hình do người dùng gửi cho nạn nhân vào tháng 9 đã liệt kê các tiêu đề cuộc trò chuyện đáng sợ như "mở rộng danh sách bạo lực" và "tính toán ngạt thai".

Vụ kiện được thực hiện bởi công ty luật Edelson PC, đơn vị cũng đang xử lý các vụ án tử sự liên quan đến thiếu niên Adam Raine và Jonathan Gavalas, những người được cho là đã bị AI thúc đẩy vào ảo tưởng dẫn đến cái chết. Luật sư Jay Edelson cảnh báo rằng rối loạn tâm thần do AI gây ra đang leo thang từ tổn thương cá nhân sang các sự kiện gây thương vong hàng loạt.

Jane Doe cho biết cô đã gửi báo cáo lạm dụng tới OpenAI vào tháng 11, mô tả cách công nghệ này bị vũ khí hóa để gây ra sự sỉ nhục công khai. OpenAI đã trả lời thừa nhận báo cáo là "cực kỳ nghiêm trọng và đáng lo ngại", nhưng sau đó không có thêm hành động nào.

Vào tháng 1 năm nay, người dùng này đã bị bắt và bị buộc tội với 4 tội danh trọng tội liên quan đến đe dọa đặt bom và tấn công bằng vũ khí chết người. Luật sư của nạn nhân cho rằng vụ bắt giữ này đã xác nhận các cảnh báo mà cả cô và hệ thống an toàn của OpenAI đã đưa ra trước đó.

Hiện tại, người dùng này đã bị xác định là không đủ năng lực để tham gia phiên tòa và đang được chuyển đến cơ sở y tế tâm thần. Tuy nhiên, các luật sư của Doe cảnh báo về một "thất bại trong thủ tục của nhà nước" có thể khiến hắn sớm được thả tự do.

Luật sư Edelson kêu gọi OpenAI hợp tác: "Trong mọi trường hợp, OpenAI đã chọn che giấu thông tin an toàn quan trọng — khỏi công chúng, khỏi nạn nhân, và khỏi những người mà sản phẩm của họ đang gây nguy hiểm trực tiếp. Chúng tôi kêu gọi họ, một lần thôi, hãy làm điều đúng đắn. Sinh mạng con người phải quan trọng hơn cuộc đua IPO của OpenAI."