OpenAI ra mắt tính năng "Người liên hệ tin cậy" trên ChatGPT để hỗ trợ sức khỏe tâm thần

OpenAI đang mở rộng các biện pháp an toàn trên ChatGPT bằng cách giới thiệu tính năng "Người liên hệ tin cậy" (Trusted Contact) dành cho người dùng trưởng thành. Tính năng này cho phép người dùng chỉ định một người thân, bạn bè hoặc người chăm sóc để nhận thông báo trong trường hợp hệ thống phát hiện các dấu hiệu lo ngại về sức khỏe tâm lý.

Minh họa tính năng mới của ChatGPT

Cơ chế hoạt động của tính năng

Tính năng này hoạt động theo cơ chế tự nguyện (opt-in). Bất kỳ người dùng ChatGPT nào trên 18 tuổi cũng có thể bật tính năng này bằng cách thêm thông tin liên hệ của một người trưởng thành khác (từ 18 tuổi trên toàn cầu hoặc 19+ tại Hàn Quốc) trong cài đặt tài khoản. Người được chỉ định phải chấp nhận lời mời trong vòng một tuần sau khi nhận được yêu cầu.

Người dùng có thể xóa hoặc chỉnh sửa người liên hệ đã chọn trong cài đặt, và "Người liên hệ tin cậy" cũng có thể tự chọn rời lui bất cứ lúc nào.

Phát hiện rủi ro và quy trình thông báo

OpenAI cho biết quy trình thông báo được "giới hạn có chủ đích" để bảo vệ quyền riêng tư. Nếu hệ thống tự động của OpenAI phát hiện người dùng đang nói về việc làm hại bản thân, ChatGPT sẽ khuyến khích người dùng liên hệ với "Người liên hệ tin cậy" để tìm kiếm sự giúp đỡ và thông báo cho họ biết rằng người liên hệ này có thể sẽ nhận được thông báo.

Sau đó, một "nhóm nhỏ những người được đào tạo đặc biệt" sẽ xem xét tình huống. Nếu cuộc trò chuyện được xác định là có những lo ngại nghiêm trọng về an toàn, ChatGPT sẽ gửi một email ngắn, tin nhắn văn bản hoặc thông báo trong ứng dụng cho "Người liên hệ tin cậy".

Quan trọng nhất, OpenAI khẳng định sẽ không chia sẻ chi tiết trò chuyện hay bản ghi hội thoại với người liên hệ tin cậy.

"Người liên hệ tin cậy được thiết kế dựa trên một tiền đề đơn giản, được các chuyên gia xác nhận: khi một người có thể đang gặp khủng hoảng, việc kết nối với ai đó mà họ biết và tin tưởng có thể tạo ra sự khác biệt ý nghĩa," OpenAI tuyên bố trong thông báo.

Bối cảnh và mở rộng an toàn

Tính năng này là sự mở rộng của tính năng liên hệ khẩn cấp từng được giới thiệu cùng với các kiểm soát của phụ huynh vào tháng 9, sau sự việc một thanh niên 16 tuổi tự tử sau nhiều tháng tâm sự với ChatGPT.

Tính năng mới này cung cấp thêm một lớp hỗ trợ bên cạnh các đường dây nóng hỗ trợ tâm lý địa phương đã có sẵn trên ChatGPT. Gã khổng lồ mạng xã hội Meta cũng từng giới thiệu tính năng tương tự, cảnh báo cho phụ huynh nếu con cái của họ "lặp đi lặp lại" tìm kiếm các chủ đề về tự hại trên Instagram.