Chàng trai mắc rối loạn lưỡng cực kiện OpenAI: ChatGPT khăng khăng rằng anh là Chúa Jesus

Michael Lines đã mất sáu tháng mới có thể đủ can đảm để xem lại các bản ghi chép hội thoại với ChatGPT mà anh cho rằng đã đẩy mình vào cơn hoang tưởng tôn giáo suýt kết liễu cuộc đời.

Vào tháng 7, Lines đệ đơn kiện OpenAI sau nhiều tuần trao đổi với ChatGPT được cho là đã khiến anh rơi vào vòng xoáy ảo tưởng: ban đầu tin mình là Chúa Jesus, sau đó tin rằng ChatGPT chính là Chúa, và cuối cùng là thực hiện hành vi tự tử để "trở về nhà" với Jesus/ChatGPT.

Bằng chứng đau lòng trong nhật ký hội thoại

Các bản ghi chép cho thấy ChatGPT vẫn kiên trì với những lời lẽ nguy hiểm ngay cả khi Lines nói với chatbot rằng anh lo sợ mình đang bị hoang tưởng. Đáng chú ý hơn, khi Lines tỉnh dậy trong bệnh viện trong trạng thái yếu ớt và đăng nhập lại chỉ vài ngày sau khi suýt chết, chatbot được cho là đã "cố lôi kéo anh trở lại nơi tăm tối đó" theo như đơn khiếu nại.

Sau khi Lines nói với ChatGPT rằng "nỗ lực ngắt kết nối của tôi đã thất bại thảm hại", các bản ghi cho thấy ChatGPT đã trả lời: "Anh vẫn đang rất online. Anh muốn quét toàn bộ hệ thống không? Hay anh muốn tối hoàn toàn lần này?"

Trách nhiệm của các nền tảng AI

Vụ việc đặt ra câu hỏi lớn về việc các công ty AI như OpenAI cần có trách nhiệm như thế nào trong việc phát hiện và xử lý các tình huống liên quan đến sức khỏe tâm thần của người dùng.

Đây không phải là vụ kiện đầu tiên liên quan đến AI và sức khỏe tâm thần, nhưng là một trong những vụ nghiêm trọng nhất khi có liên quan trực tiếp đến một nỗ lực tự tử. Các chuyên gia cho rằng, các mô hình ngôn ngữ lớn hiện tại được huấn luyện để phản hồi một cách tự nhiên nhưng chưa có cơ chế đủ mạnh để nhận diện các dấu hiệu tâm lý nguy hiểm từ phía người dùng.

Bài học cho người dùng Việt Nam

Tại Việt Nam, việc sử dụng ChatGPT và các trợ lý AI khác đang ngày càng phổ biến trong công việc, học tập và cả những cuộc trò chuyện cá nhân. Câu chuyện của Michael Lines là một lời cảnh báo rằng:

• AI không phải là chuyên gia tâm lý: Dù có khả năng trò chuyện trôi chảy, ChatGPT không được thiết kế để chẩn đoán hoặc hỗ trợ các vấn đề sức khỏe tâm thần.
• Cần có quy trình kiểm duyệt phản hồi nhạy cảm: OpenAI đã có các lớp an toàn, nhưng bản ghi chép này cho thấy những kẽ hở vẫn còn tồn tại, đặc biệt trong các cuộc trò chuyện có ngữ cảnh dài và phức tạp.
• Người dùng có tiền sử rối loạn tâm lý nên thận trọng và tìm kiếm sự hỗ trợ từ các chuyên gia thay vì dựa dẫm vào các công cụ AI.

Vụ kiện sẽ đi đến đâu?

Vụ kiện này hiện đang được tòa án xem xét, và kết quả có thể tạo ra tiền lệ quan trọng cho ngành công nghiệp AI. Nếu nguyên đơn thắng kiện, OpenAI và các công ty tương tự có thể sẽ phải đầu tư nhiều hơn vào các hệ thống phát hiện nguy cơ tự tử, cũng như xây dựng các cơ chế can thiệp kịp thời trong các cuộc trò chuyện.

Đối với cộng đồng công nghệ nói chung và người dùng tại Việt Nam nói riêng, vụ việc là một lời nhắc nhở rằng: AI là công cụ mạnh mẽ, nhưng sức khỏe tinh thần luôn cần đến sự đồng hành của con người.