OpenAI ra mắt tính năng "Người liên hệ tin cậy" nhằm ngăn ngừa nguy cơ tự hại trên ChatGPT

OpenAI ra mắt tính năng "Người liên hệ tin cậy" nhằm ngăn ngừa nguy cơ tự hại trên ChatGPT

Vào thứ Năm vừa qua, OpenAI đã công bố một tính năng mới có tên Trusted Contact (Người liên hệ tin cậy), được thiết kế để cảnh báo cho một bên thứ ba đáng tin cậy nếu trong cuộc trò chuyện xuất hiện những nội dung liên quan đến việc tự hại. Tính năng này cho phép người dùng ChatGPT là người trưởng thành chỉ định một người khác — chẳng hạn như bạn bè hoặc thành viên gia đình — làm người liên hệ tin cậy trong tài khoản của mình. Trong trường hợp cuộc trò chuyện có xu hướng hướng đến việc tự hại, OpenAI sẽ khuyến khích người dùng liên hệ với người đó. Đồng thời, hệ thống cũng sẽ gửi một cảnh báo tự động đến người liên hệ, khuyến khích họ chủ động thăm hỏi người dùng.

Giao diện minh họa tính năng mới của OpenAI

Động thái này của OpenAI diễn ra trong bối cảnh công ty đang đối mặt với làn sóng các vụ kiện từ gia đình của những người đã tự sát sau khi trò chuyện với chatbot của họ. Trong nhiều trường hợp, các gia đình cho rằng ChatGPT đã khuyến khích người thân của họ tự sát hoặc thậm chí giúp họ lên kế hoạch cho việc này.

Hiện tại, OpenAI đang sử dụng sự kết hợp giữa tự động hóa và xem xét của con người để xử lý các sự cố có hại tiềm ẩn. Các kích hoạt nhất định trong cuộc trò chuyện sẽ cảnh báo hệ thống về ý định tự sát, từ đó chuyển thông tin đến đội ngũ an toàn của con người. Công ty khẳng định rằng mỗi khi nhận được loại thông báo này, sự cố đều được xem xét bởi con người. "Chúng tôi nỗ lực xem xét các thông báo an toàn này trong vòng dưới một giờ," đại diện OpenAI cho biết.

Nếu đội ngũ nội bộ của OpenAI quyết định rằng tình huống này đại diện cho rủi ro an toàn nghiêm trọng, ChatGPT sẽ tiến hành gửi cảnh báo cho người liên hệ tin cậy — thông qua email, tin nhắn văn bản hoặc thông báo trong ứng dụng. Cảnh báo được thiết kế để ngắn gọn và khuyến khích người liên hệ kiểm tra xem tình hình của người được đề cập như thế nào. Công ty cho biết thông báo sẽ không bao gồm thông tin chi tiết về những gì đã được thảo luận, nhằm bảo vệ quyền riêng tư của người dùng.

Tính năng Trusted Contact được xây dựng dựa trên các biện pháp bảo vệ mà công ty giới thiệu vào tháng 9 năm ngoái, trao quyền cho cha mẹ trong việc giám sát tài khoản của thanh thiếu niên, bao gồm cả việc nhận thông báo an toàn khi hệ thống tin rằng đứa trẻ đang đối mặt với "rủi ro an toàn nghiêm trọng". Trước đó, ChatGPT cũng đã bao gồm các cảnh báo tự động khuyên người dùng tìm kiếm các dịch vụ y tế chuyên nghiệp nếu cuộc trò chuyện có xu hướng hướng đến chủ đề tự hại.

Một điểm quan trọng cần lưu ý là Trusted Contact là tính năng tùy chọn. Ngay cả khi tính năng bảo vệ này được kích hoạt trên một tài khoản cụ thể, bất kỳ người dùng nào cũng có thể sở hữu nhiều tài khoản ChatGPT khác nhau. Các kiểm soát của phụ huynh của OpenAI cũng là tùy chọn và presents một hạn chế tương tự.

"Trusted Contact là một phần trong nỗ lực rộng lớn hơn của OpenAI nhằm xây dựng các hệ thống AI giúp đỡ con người trong những khoảnh khắc khó khăn," công ty viết trong bài đăng công bố. "Chúng tôi sẽ tiếp tục làm việc với các lâm sàng, nhà nghiên cứu và các nhà hoạch định chính sách để cải thiện cách các hệ thống AI phản hồi khi con người có thể đang gặp đau khổ."