Nhân viên sức khỏe tâm thần cảnh báo: Thuật toán phân loại bệnh nhân đang gây hại

Khi Harimandir Khalsa bắt đầu làm việc trong bộ phận phân loại (triage) tâm thần tại Kaiser Permanente ở Bắc California, nhóm của cô có 9 người. Chỉ hơn 3 năm sau, nhóm chỉ còn lại 3 người. Một phần công việc trước đây do con người đảm nhiệm đã được chuyển sang các công cụ tự động hóa và thuật toán — và theo nhiều nhân viên y tế, điều này đang gây ra hậu quả nghiêm trọng cho bệnh nhân.

Số lượng bệnh nhân tỏ ra bức xúc khi nói chuyện với Khalsa đã tăng mạnh. Trong một ngày điển hình, có tới 1/3 số cuộc gọi phân loại của cô là từ những người đã vật lộn để tiếp cận dịch vụ chăm sóc phù hợp. "Điều gia tăng là sự thất vọng. Đôi khi mọi người nói: 'Tôi đã bị chuyển đi khắp nơi'", cô chia sẻ.

Theo khảo sát của Capital & Main với hơn một chục nhà trị liệu, bác sĩ lâm sàng, chuyên gia học thuật và nhà vận động ở Wisconsin và California, việc tích hợp vội vã AI vào chăm sóc sức khỏe tâm thần đang bào mòn quyền tiếp cận dịch vụ kịp thời và phù hợp của bệnh nhân. Không giống như nhiều ngành nghề khác, sai sót của AI trong lĩnh vực này có thể đẩy những người đang trầm cảm nặng, rối loạn lưỡng cực vào tình trạng nguy hiểm hơn.

Bệnh nhân khốn khổ và sự chậm trễ nguy hiểm

Ilana Marcucci-Morris, một nhà trị liệu tại Kaiser ở Oakland, cho biết khoảng hai năm trước, bệnh nhân không còn được bác sĩ đa khoa giới thiệu trực tiếp nữa. Thay vào đó, họ bị điều hướng qua một ứng dụng, tổng đài không chuyên môn, hoặc chỉ đơn giản được đưa một số điện thoại để tự gọi. "Giờ đây, trách nhiệm tự điều phối việc chăm sóc thuộc về bệnh nhân", cô nói.

Điều này đặc biệt khó khăn với nhiều bệnh nhân trầm cảm. "Thiếu động lực và không theo dõi được quá trình là triệu chứng phổ biến nhất của bệnh trầm cảm trên hành tinh này. Chúng ta sẽ không bảo một người liệt 'Này, đi xuống hành lang để lấy xe lăn của anh'", Marcucci-Morris nhấn mạnh.

Các nhà trị liệu cho biết họ đang dành nhiều thời gian hơn cho "khôi phục dịch vụ" — nỗ lực hàn gắn niềm tin của bệnh nhân khi kỳ vọng chăm sóc không được đáp ứng. Melissa Stevens, nhà tâm lý học lâm sàng tại Kaiser, cho biết hệ thống phân loại do AI điều khiến các ca giới thiệu nội bộ trở nên khó khăn hơn. Bà thường nhận được phản hồi từ bệnh nhân không bao giờ được liên lạc, hoặc bị xếp vào các lớp trị liệu nhóm lo âu dù họ cần mức chăm sóc cao hơn.

"Bệnh nhân của tôi cứ bị hệ thống lọc của họ từ chối cho đến khi tôi thực sự nhấc điện thoại gọi cho một con người", Stevens nói.

Những sự chậm trễ này không chỉ gây bực bội mà còn nguy hiểm. Khalsa cho biết: "Tôi đã thấy những trường hợp bị trì hoãn hàng tuần với hệ thống phân loại mới, hoặc các dấu hiệu tự hại hoặc nỗ lực tự tử trước đó đã bị bỏ sót."

Minh họa về áp lực của nhân viên y tế khi AI tham gia phân loại bệnh nhân

Ứng dụng thay thế liệu pháp thực sự?

Kaiser hiện kết nối bệnh nhân với nhiều ứng dụng và chương trình kỹ thuật số của bên thứ ba như Calm (thiền có hướng dẫn) hay Meru Health (chương trình 12 tuần với tối đa 4 buổi trị liệu qua telehealth). "Kaiser nói: 'Tuyệt vời, bạn có thể ngay lập tức học các kỹ thuật nhận thức-hành vi về giấc ngủ'", Khalsa nói. "Nhưng nếu người này đang trong cơn hưng cảm và không ngủ vì hưng cảm thì sao? Một ứng dụng nhỏ sẽ không giúp được gì."

Marcucci-Morris cho biết nhiều bệnh nhân quay lại sau chương trình 12 tuần trong tình trạng tồi tệ hơn. "Không phải là trị liệu hàng tuần thực sự. Những ca khiến tôi thực sự lo lắng là khi họ hoàn thành toàn bộ chương trình và sau đó quay lại khám, tình trạng trầm cảm còn nặng hơn."

Xếp sai mức độ chăm sóc tại Rogers Behavioral Health

Cuối năm 2024, Rogers Behavioral Health — hệ thống điều trị nghiện và tâm thần có cơ sở tại 10 bang của Mỹ — công bố hợp tác với Limbic, công ty cung cấp AI hỗ trợ tiếp nhận, quản lý ca và đánh giá lâm sàng. Đến tháng 8/2025, Limbic công bố nghiên cứu điển hình về việc sử dụng chatbot tiếp nhận và trợ lý giọng nói AI tại Rogers, với tuyên bố sử dụng "định tuyến và ưu tiên theo thời gian thực dựa trên thông tin lâm sàng do AI tạo ra".

Tuy nhiên, nhân viên tại Rogers lại chứng kiến điều ngược lại. Erin Quinlan, chuyên gia hành vi tại Madison, Wisconsin, cho biết một bệnh nhân "có nguy cơ tự tử rất nghiêm trọng" cần nhập viện nội trú lại bị xếp vào "mức chăm sóc thấp nhất": chăm sóc ngoại trú tăng cường. Cô ước tính trong các lớp trị liệu nhóm thường có ít nhất một người đã bị xếp sai chỗ.

Kate Zolandz, cựu nhà trị liệu tại Rogers, cũng thấy sự gia tăng các ca xếp sai sau khi áp dụng Limbic, đặc biệt là thiếu kiểm tra tiền sử hành vi hung hăng. "Khi họ khóc, mất kiểm soát, la hét, ném đồ đạc, nó làm gián đoạn việc chăm sóc bệnh nhân và khiến đội ngũ nhân viên vốn đã mỏng phải căng hơn vì phải xử lý khủng hoảng ngay lập tức."

Một phát ngôn viên của Rogers phủ nhận AI thay thế quyết định lâm sàng, cho rằng công cụ chỉ thu thập thông tin "tuân thủ HIPAA" và "chỉ các bác sĩ lâm sàng có giấy phép của Rogers mới đưa ra quyết định nhập viện, xếp lớp và điều trị".

Ranh giới và vai trò không thể thay thế của con người

Một số vấn đề có thể được cải thiện bằng AI tốt hơn, nhưng các chuyên gia nhấn mạnh một số vấn đề chỉ có thể giải quyết bằng cách duy trì vai trò trung tâm của các nhà cung cấp dịch vụ chăm sóc có giấy phép.

"Cuối cùng, công cụ AI chỉ là công cụ. Nhà cung cấp dịch vụ là chuyên gia được đào tạo và có giấy phép, vì vậy phán đoán của họ mới là điều quan trọng." — Leanna Fortunato, Giám đốc đổi mới sức khỏe kỹ thuật số, Hiệp hội Tâm lý học Hoa Kỳ

Dự luật AB 2575 của California, do Nghị sĩ Liz Ortega soạn thảo, có điều khoản chính bảo vệ nhân viên y tế khỏi bị trả thù nếu họ bác bỏ khuyến nghị của AI. Dự luật cũng yêu cầu các cơ sở y tế minh bạch về rủi ro và cách sử dụng AI, đồng thời chuyển trách nhiệm pháp lý cho nhà phát triển AI nếu gây hại cho bệnh nhân. Một dự luật khác, AB 1979, sẽ cấm các quyết định lâm sàng chỉ dựa trên đầu ra của AI.

Tuy nhiên, Hiệp hội Bệnh viện California và Kaiser đã ký thư phản đối. Robert Wachter, Chủ nhiệm khoa Y tại Đại học California, San Francisco, cho rằng: "Chúng ta cần có không gian để thử nghiệm an toàn có giám sát, thay vì khóa chặt hiện trạng."

Sự đối lập giữa công nghệ và sự đồng cảm của con người trong chăm sóc sức khỏe tâm thần

Tại Bắc California, khoảng 2.400 nhân viên sức khỏe tâm thần của Kaiser do NUHW đại diện đã không có hợp đồng kể từ tháng 9 năm ngoái. Việc sử dụng AI đã trở thành điểm bất đồng lớn. NUHW cũng đã đệ đơn khiếu nại lên Bộ Quản lý Chăm sóc Sức khỏe California, cho rằng Kaiser dùng AI để phân loại bệnh nhân vi phạm luật tiểu bang. Robin Feldman, giáo sư luật tại UC Law San Francisco, nhấn mạnh: "Luật California yêu cầu chuyên gia y tế có giấy phép phải đưa ra quyết định về mức độ chăm sóc mà bệnh nhân cần."

Bệnh nhân cần được lắng nghe bởi con người, không chỉ là thuật toán

Câu chuyện này đặt ra bài học quan trọng cho cả hệ thống y tế nói riêng và ngành AI nói chung, bao gồm cả bối cảnh Việt Nam khi công nghệ đang dần được ứng dụng vào nhiều lĩnh vực: AI nên là trợ thủ, không phải người ra quyết định trong các lĩnh vực ảnh hưởng trực tiếp đến tính mạng con người. Như Zolandz, cựu nhà trị liệu tại Rogers, đúc kết: "Trị liệu hiệu quả vì bạn xây dựng mối quan hệ với nhà trị liệu của mình. AI không thể tạo ra kết nối đó theo cách mà một con người thực sự có thể."