AI xếp lịch khiến y tá Mỹ quá tải: Khi thuật toán thay con người quyết định ca trực

Trong bốn tháng qua, Amber Retzloff, một y tá chăm sóc tích cực tại Florida (Mỹ), đã đăng ký làm 50 ca trực cụ thể, mỗi ca kéo dài 12 giờ. Nhưng hơn một nửa số lần, cô cho biết phần mềm xếp lịch chạy trên nền tảng Palantir của bệnh viện lại gán cho cô những ca khác, thường là ba ngày liên tiếp nhau, khiến cô kiệt quệ cả về thể chất lẫn tinh thần.

Retzloff không kỳ vọng lúc nào cũng được đúng ca mình muốn, nhưng theo cô đếm, công cụ này còn tệ hơn hẳn so với việc quản lý xếp ca thủ công trước đây.

Câu chuyện của Retzloff không phải cá biệt. Nó phản ánh tình trạng chung của nhiều y tá tại HCA Healthcare, chuỗi bệnh viện lớn nhất nước Mỹ.

Timpani – công cụ AI gây tranh cãi của HCA

Từ năm 2023, HCA đã triển khai Timpani, một công cụ xếp lịch bằng AI do hãng đồng phát triển với Palantir, tại khoảng 130 trong tổng số 190 cơ sở. Bệnh viện của Retzloff đã áp dụng công cụ này gần hai năm nay.

"Không ai hài lòng với Timpani cả. Ai cũng phàn nàn suốt ngày", Retzloff nói, lặp lại điều mà năm y tá ở các cơ sở khác cũng chia sẻ trong phỏng vấn với WIRED.

Những y tá trò chuyện với WIRED cáo buộc Timpani có thể đã gây hại cho bệnh nhân khi khiến các nhóm chăm sóc bị thiếu người, mất cân đối và kiệt sức. Họ cho rằng công cụ này thường xuyên xếp quá ít y tá hoặc thiếu những người có kinh nghiệm trong các ca, đặc biệt là Chủ nhật.

Công cụ cũng thường xuyên phớt lờ nguyện vọng của y tá về việc giãn cách ca trực, làm ca đêm và cuối tuần, hay xin nghỉ những ngày cụ thể.

Hệ quả: y tá xoay xở, bệnh nhân chịu rủi ro

Hệ quả là các y tá cho biết họ phải mất nhiều thời gian hơn trước để đổi ca hoặc khiếu nại lịch làm việc. Họ cũng tin rằng đồng nghiệp ngày càng hay xin nghỉ, dùng ngày phép có lương hoặc không lương để bỏ ca — dù làm vậy quá vài lần mỗi năm sẽ có nguy cơ bị sa thải.

Retzloff, 34 tuổi, lãnh đạo công đoàn National Nurses United với mười năm kinh nghiệm lâm sàng, kể lại những ca gần đây khi cả bốn đồng nghiệp của cô đều là người mới. Vì là y tá kỳ cựu duy nhất trong ca, cô buộc phải trì hoãn việc chăm sóc những bệnh nhân nặng nhất để hướng dẫn người mới xử lý các ca nhẹ hơn.

"HCA đang để AI định đoạt. Chúng tôi đang gạt bỏ phán đoán lâm sàng và yếu tố con người trong chăm sóc sức khỏe để nhường chỗ cho một ứng dụng", Retzloff nói.

Trước đây, quản lý xếp lịch thủ công và thường hỏi ý kiến y tá từ rất sớm khi muốn thay đổi nguyện vọng. Với Timpani, y tá cho biết họ phải thu xếp phương án thay thế với thời gian báo trước ngắn hơn, đồng thời bị điều chuyển tạm thời sang nhóm khác thường xuyên hơn.

Harlow Sumerford, phát ngôn viên của HCA, khẳng định rằng lãnh đạo điều dưỡng, chứ không phải Timpani, mới là người đưa ra quyết định cuối cùng về lịch làm việc. Ông bác bỏ cáo buộc cho rằng công cụ này "được thiết kế để giảm nhân lực bằng cách hy sinh chất lượng chăm sóc bệnh nhân".

Con số "1% ngày đỏ" và thực tế trái ngược

Theo HCA, trung bình Timpani chỉ xếp y tá vào 1% số ngày nghỉ đã đăng ký — hay còn gọi là "ngày đỏ". Lee Barker, một y tá HCA ở Missouri, cho biết con số này nghe có vẻ thấp, nhưng trước đây việc bị xếp vào ngày đỏ là chuyện chưa từng xảy ra tại cơ sở của anh.

Chưa đầy một năm sau khi ban lãnh đạo áp dụng Timpani, Barker nói gần như mọi y tá đều đã bị xếp làm vào ngày lẽ ra được nghỉ. Barker từng phải hoãn một cuộc hẹn bác sĩ đã lên kế hoạch từ lâu cho một bệnh mạn tính, sau khi vật lộn để đổi ngày đỏ bị gán.

"Cảm giác như chúng tôi đang bị đá thêm khi đã nằm sẵn dưới đất", Barker nói.

Các khiếu nại về Timpani đã buộc ban lãnh đạo HCA thực hiện một số cập nhật nhỏ cho phần mềm, nhưng theo y tá khắp nước Mỹ, vấn đề vẫn dai dẳng. Lãnh đạo National Nurses United — công đoàn đại diện cho khoảng 10.000 trong số 100.000 y tá của HCA — cho biết công ty đã từ chối yêu cầu cung cấp thông tin về công nghệ này.

Một vụ kiện và những lo ngại về dữ liệu

Một số chi tiết được cho là hé lộ vào tháng 7, khi Angelique Russell, cựu quản lý khoa học dữ liệu của HCA, kiện công ty với cáo buộc sa thải trả đũa vì cô nêu lo ngại về Timpani. Cô cáo buộc HCA thường xuyên xóa dữ liệu mà công cụ dùng để tạo lịch, khiến việc kiểm toán hiệu quả của nó trở nên bất khả thi, và có thể đã vi phạm một số luật y tế. (HCA chưa chính thức phản hồi trước tòa, và Russell từ chối bình luận.)

Timpani được xây dựng trên Palantir Foundry, một nền tảng phần mềm lưu trữ và phân tích dữ liệu từ khắp hoạt động của doanh nghiệp. Lấy tên từ nhạc cụ giữ nhịp, công cụ này dùng dự báo thuật toán về lượng bệnh nhân và nhu cầu nhân lực để tự động tạo lịch điều dưỡng.

Khi Timpani ra mắt năm 2023, Michael Schlosser, giám đốc đổi mới sáng tạo hàng đầu của HCA, nói với WIRED rằng nó sẽ tiết kiệm thời gian và tiền bạc, đồng thời loại bỏ sự thiên vị trong phân ca. Trong một bài viết hồi tháng 7 vừa qua, Schlosser cho biết Timpani đã giảm mạnh số giờ quản lý phải dành cho việc xếp lịch mỗi tháng, giảm phụ thuộc vào y tá hợp đồng đắt đỏ để lấp ca, và tăng tỷ lệ giữ chân nhân viên.

"Hiệu quả đến từ việc AI tạo ra những lịch trình ban đầu tốt hơn", ông viết, thêm rằng hơn 98% lịch trình "bao gồm sự pha trộn kỹ năng và kinh nghiệm".

Chính sách AI có trách nhiệm của HCA nhấn mạnh việc bảo vệ cá nhân khỏi tổn hại "thể chất" hoặc "tinh thần", và các giám đốc điều hành nói rằng họ đã trao đổi với y tá và tiếp cận đầy đồng cảm khi phát triển Timpani. Trong tài liệu tiếp thị, công ty đưa hình ảnh các y tá khen ngợi công cụ dễ dùng và tiết kiệm thời gian.

Nhưng nhiều y tá HCA khác nói họ cảm thấy bị phớt lờ và coi thường.

Không chỉ HCA: Rayus Radiology cũng gặp rắc rối

Họ không phải những nhân viên y tế duy nhất lo ngại về việc Palantir tiến vào ngành của họ. Rayus Radiology, một chuỗi chẩn đoán hình ảnh lớn của Mỹ, bắt đầu nhận khiếu nại về lỗi xếp lịch vào đầu năm nay, sau khi đưa vào một công cụ cũng xây trên Palantir Foundry, theo tài liệu nội bộ mà WIRED xem được.

Phần mềm được thiết kế để tự động điền các trường lịch hẹn từ chỉ định của bác sĩ. Nhưng trong một số trường hợp, nó liên kết yêu cầu sai hồ sơ bệnh nhân, liệt kê xét nghiệm hay chẩn đoán hình ảnh không khớp với chỉ định, hoặc bịa ra chi tiết cá nhân về bệnh nhân.

Nhân viên xếp lịch tại Rayus nghi ngờ rằng biểu mẫu không chuẩn, chữ viết khó đọc và thiếu kiểm tra của con người đã góp phần gây ra vấn đề.

Phát ngôn viên của Rayus, Kit Crancer, nói rằng "những mô tả khái quát" như vậy không phản ánh công bằng "quy trình, biện pháp bảo vệ hay cam kết của chúng tôi với việc chăm sóc bệnh nhân an toàn, chính xác và kịp thời". Ông thêm rằng Rayus dùng công nghệ để "hỗ trợ, chứ không thay thế, phán đoán và giám sát phù hợp của con người".

Phát ngôn viên của Palantir từ chối bình luận bằng tên thật, nhưng công ty mô tả phần mềm của mình chỉ đơn thuần trình bày thông tin theo cách hữu ích hơn, đồng thời nhấn mạnh rằng khách hàng chịu trách nhiệm về dữ liệu, chính sách và việc ra quyết định.

Palantir: Từ đà tăng trưởng đến làn sóng hoài nghi

Doanh số của Palantir gần đây gần như tăng gấp đôi, lên gần 2 tỷ USD mỗi quý, khi các tổ chức tìm đến nó để phân tích dữ liệu và tự động hóa tác vụ. Chi phí leo thang và tình trạng thiếu nhân lực khiến các nhà cung cấp dịch vụ y tế trở thành khách hàng đặc biệt sốt sắng. Cleveland Clinic từng ghi công phần mềm Palantir giúp tăng năng lực đón bệnh nhân nhờ dự báo xuất viện từ phòng cấp cứu và thay thế điều phối thủ công.

Nhưng Palantir cũng hứng chịu phản ứng từ các nhà hoạt động nhân quyền vì công việc trong lĩnh vực quốc phòng và nhập cư, cũng như quan điểm chính trị của hai nhà đồng sáng lập Peter Thiel và Alex Karp. Tại Anh, Palantir giành được hợp đồng trị giá 440 triệu USD với Dịch vụ Y tế Quốc gia (NHS) để cố cắt giảm thời gian chờ khám, nhưng y tá và các nhà hoạt động đã yêu cầu hủy bỏ vì lo ngại quyền riêng tư và bảo mật.

Tại HCA, một số y tá cũng muốn Palantir biến mất. Dù các nghiên cứu cho thấy xếp lịch bằng AI có nhiều triển vọng, y tá nói Timpani đã trở thành nguồn cơn lo lắng.

"Ai cũng kiểm tra ngay lập tức và tháng nào cũng nghe thấy: 'Trời ơi, sao nó lại xếp cho tôi như vậy?'", Barker nói.

Khi quyền khiếu nại trở nên xa vời

Ban đầu, một số quản lý địa phương có thể chỉnh sửa lịch trình của Timpani. Giờ đây, theo y tá, họ phải báo cáo những ca có vấn đề cho một nhóm tập trung tại trụ sở HCA ở Nashville, nơi xem xét khiếu nại mà không có giao tiếp trực tiếp hay chỗ để giải thích. Nếu bị từ chối, họ cố đổi ca, nhưng theo Barker và Retzloff, tỷ lệ thành công chỉ khoảng 50%.

Barker, một lãnh đạo National Nurses United tại một trung tâm tâm thần của HCA, cho biết vài đồng nghiệp đã nghỉ việc vì Timpani và các chấn thương tại nơi làm việc đã tăng lên trong 12 tháng đầu dùng công cụ này. Công đoàn gồm khoảng 500 y tá của trung tâm đã nộp đơn khiếu nại về phần mềm, lập luận rằng HCA không tôn trọng đầy đủ nguyện vọng ca trực. Vụ việc nhiều khả năng sẽ được đưa ra trọng tài.

Trong những ngày đầu của Timpani, ông Schlosser của HCA thừa nhận nhân viên y tế có thể chậm tiếp nhận công nghệ "bởi vì họ nắm sinh mạng con người trong tay". Nhưng ông hình dung một tương lai nơi y tá tuyến đầu chủ động đòi thêm công cụ: "Khi đó sẽ rất thú vị".

Ba năm sau, một số y tá thấy chẳng có gì đáng để vui mừng.

Bài học cho ngành y tế Việt Nam: Khi các bệnh viện trong nước bắt đầu ứng dụng AI vào quản lý nhân sự và vận hành, câu chuyện của HCA là lời cảnh báo rằng tự động hóa chỉ hiệu quả khi đặt con người — cả nhân viên y tế lẫn bệnh nhân — làm trung tâm, chứ không phải thuật toán.