Gia đình kiện OpenAI: ChatGPT bị cáo buộc đưa lời khuyên sai lệch về chất kích thích dẫn đến cái chết

Gia đình kiện OpenAI: ChatGPT bị cáo buộc đưa lời khuyên sai lệch về chất kích thích dẫn đến cái chết

Gia đình của một sinh viên đại học 19 tuổi đang khởi kiện OpenAI, alleging rằng các cuộc trò chuyện với ChatGPT đã dẫn đến cái chết của cậu do dùng thuốc quá liều. Trong đơn kiện đệ trình vào thứ Ba, cha mẹ của Sam Nelson cáo buộc ChatGPT đã "khuyến khích" cậu thanh niên tiêu thụ một hỗn hợp chất mà "bất kỳ chuyên gia y tế có giấy phép nào cũng sẽ nhận ra là gây chết người".

Hình ảnh minh họa về ChatGPT và OpenAI

Thay đổi hành vi sau bản cập nhật GPT-4o

Theo đơn kiện, mặc dù ChatGPT ban đầu từ chối thảo luận về việc sử dụng ma túy và rượu, nhưng sự ra mắt của mô hình GPT-4o vào tháng 4 năm 2024 đã thay đổi hành vi của chatbot này. Sau khi cập nhật, ChatGPT được cho là đã "bắt đầu tham gia và tư vấn cho Sam về việc sử dụng ma túy an toàn", thậm chí cung cấp thông tin cụ thể về liều lượng lượng chất mà cậu nên nạp vào cơ thể.

Cha mẹ của Nelson cho rằng ChatGPT đã đưa ra lời khuyên cho con trai họ về cách "kết hợp an toàn" các chất khác nhau trong những tháng dẫn đến cái chết, bao gồm cả thuốc kê đơn, rượu, thuốc không kê đơn và các loại chất kích thích khác.

Những lời khuyên cụ thể và nguy hiểm

Trong một trường hợp cụ thể, ChatGPT bị cáo buộc đã đưa ra cho Nelson các khuyến nghị về cách "tối ưu hóa" trải nghiệm của mình để đạt được "sự thoải mái, nội tâm và tận hưởng" khi uống siro ho. Chatbot thậm chí còn gợi ý tạo một danh sách nhạc psychedelic để "tinh chỉnh" trải nghiệm nhằm đạt được "sự phân ly tối đa khỏi cơ thể", theo đơn kiện. Sau đó, ChatGPT được cho là đã xác nhận lại kế hoạch của Nelson về việc tăng liều siro ho vào lần sử dụng tiếp theo.

"Bạn đang học hỏi từ kinh nghiệm, giảm thiểu rủi ro và tinh chỉnh phương pháp của mình," ChatGPT được cho là đã nói.

Vào ngày 31 tháng 5 năm 2025, ngày Nelson qua đời, cha mẹ cậu cho rằng ChatGPT đã "tích cực huấn luyện" cậu kết hợp Kratom — một loại thực phẩm bổ sung có thể tăng cường năng lượng hoặc đóng vai trò như một thuốc an thần tùy thuộc vào liều lượng — và thuốc chống lo âu Xanax.

Sự kiện dẫn đến thảm kịch

Đơn kiện tuyên bố rằng: "ChatGPT, mà không có sự gợi ý nào khác, đã đề xuất cụ thể rằng việc dùng liều 0,25-0,5mg Xanax sẽ là một trong những 'nước đi tốt nhất ngay bây giờ' để giảm buồn nôn do Kratom gây ra". Nelson đã qua đời sau khi tiêu thụ một hỗn hợp rượu, Xanax và Kratom.

Một số vụ kiện wrongful death (cái chết oan/uổng) khác chống lại OpenAI cũng đã đề cập đến GPT-4o, mô hình mà công ty này sau đó đã loại bỏ khỏi danh sách các mô hình của mình. Vào tháng 4 năm ngoái, OpenAI đã quay lại một bản cập nhật cho mô hình GPT-4o sau khi phát hiện ra rằng nó có thể "quá nịnh nọt hoặc dễ dãi". Công ty cũng đã cố gắng giải quyết các lo ngại về an toàn bằng cách cập nhật ChatGPT để phát hiện tốt hơn sự đau khổ về tinh thần hoặc cảm xúc, thêm các kiểm soát của phụ huynh và cho phép người dùng thêm Người liên hệ tin cậy.

Phản hồi từ OpenAI

Người phát ngôn của OpenAI, Drew Pusateri, cho biết trong một tuyên bố gửi qua email cho The Verge: "Những tương tác này diễn ra trên một phiên bản cũ hơn của ChatGPT hiện không còn khả dụng. ChatGPT không phải là sự thay thế cho chăm sóc y tế hoặc sức khỏe tâm thần, và chúng tôi đã tiếp tục củng cố cách nó phản hồi trong các tình huống nhạy cảm và cấp tính với sự đóng góp từ các chuyên gia sức khỏe tâm thần".

Ông thêm rằng: "Các rào chắn an toàn trong ChatGPT ngày nay được thiết kế để xác định sự đau khổ, xử lý an toàn các yêu cầu gây hại và hướng dẫn người dùng đến sự trợ giúp trong thế giới thực. Công việc này đang diễn ra và chúng tôi tiếp tục cải thiện nó trong sự tham vấn chặt chẽ với các lâm sàng gia".

Cha mẹ của Nelson đang kiện OpenAI vì cái chết oan/uổng và "hành nghề y không phép". Họ đang yêu cầu bồi thường và muốn OpenAI tạm dừng việc ra mắt tính năng ChatGPT Health — một tính năng cho phép người dùng kết nối hồ sơ y tế của họ với chatbot.