Người dân California khởi kiện hệ thống y tế vì sử dụng AI ghi âm lén lút trong các cuộc thăm khám

Nhiều người dân tại bang California (Mỹ) đã đệ đơn kiện lên tòa án liên bang tại San Francisco vào tuần này, nhắm vào hai hệ thống y tế lớn là Sutter Health và MemorialCare. Nguyên đơn cáo buộc rằng các bên bị đơn đã sử dụng công cụ chuyển đổi giọng nói thành văn bản dựa trên trí tuệ nhân tạo (AI) để ghi âm các cuộc thăm khám y tế mà không xin phép bệnh nhân, đi ngược lại các quy định của luật bang và liên bang.

Theo đơn kiện, trong vòng sáu tháng qua, các nguyên đơn đã đến khám và điều trị tại nhiều cơ sở khác nhau thuộc sở hữu của Sutter và MemorialCare. Trong quá trình này, nhân viên y tế đã sử dụng phần mềm do công ty Abridge AI cung cấp.

Vấn đề về dữ liệu và sự đồng ý

Đơn kiện nêu rõ rằng hệ thống AI này đã "bắt giữ và xử lý các cuộc giao tiếp mật thiết giữa bác sĩ và bệnh nhân". Điểm mấu chốt của tranh chấp là người bệnh không nhận được bất kỳ thông báo rõ ràng nào về việc các cuộc trò chuyện y tế của họ đang được ghi lại bởi một nền tảng AI.

Đáng lo ngại hơn, dữ liệu này được cho là đã được truyền tải ra khỏi môi trường lâm sàng và xử lý thông qua các hệ thống của bên thứ ba. Điều này làm dấy lên lo ngại lớn về việc vi phạm các quy định bảo mật dữ liệu y tế nhạy cảm.

"Nguyên đơn không nhận được thông báo rõ ràng rằng các cuộc trò chuyện y tế của họ sẽ được ghi lại bởi một nền tảng trí tuệ nhân tạo, được truyền ra ngoài môi trường lâm sàng hoặc được xử lý thông qua các hệ thống của bên thứ ba," - trích nội dung đơn kiện.

Vụ việc này đặt ra những câu hỏi quan trọng về việc áp dụng công nghệ AI trong lĩnh vực y tế (Healthtech). Mặc dù các công cụ chuyển đổi giọng nói thành văn bản giúp giảm bớt gánh nặng hành chính cho bác sĩ, nhưng việc thực hiện mà không đảm bảo tính minh bạch và sự đồng ý của bệnh nhân có thể dẫn đến những hậu quả pháp lý nghiêm trọng về bảo mật và an toàn thông tin.