Y tá Mỹ kiệt sức vì phần mềm xếp lịch AI của Palantir: "Không ai hài lòng với Timpani"

Trong bốn tháng qua, Amber Retzloff — một y tá chăm sóc tích cực tại bang Florida (Mỹ) — đã đăng ký làm 50 ca trực cụ thể, mỗi ca kéo dài 12 giờ. Nhưng hơn một nửa số lần, cô cho biết phần mềm xếp lịch do Palantir cung cấp đã gán cô vào những ca khác, thường xếp cô làm liên tiếp nhiều ngày và khiến cô kiệt quệ cả về thể chất lẫn tinh thần.

Câu chuyện của Retzloff không phải cá biệt. Nó phản ánh trải nghiệm của nhiều y tá khác trên khắp HCA Healthcare, chuỗi bệnh viện lớn nhất nước Mỹ. Từ năm 2023, HCA đã triển khai Timpani — công cụ xếp lịch bằng AI do họ đồng phát triển với Palantir — tại khoảng 130 trong tổng số 190 cơ sở. Bệnh viện của Retzloff đã áp dụng nó gần hai năm nay.

"Không ai hài lòng với Timpani cả. Mọi người phàn nàn suốt ngày."

Theo năm y tá ở các cơ sở khác chia sẻ với WIRED, tình trạng này diễn ra phổ biến. Trên các diễn đàn như Reddit, nhiều người tự nhận là nhân viên HCA cũng bày tỏ bức xúc tương tự. Họ cho rằng Timpani có thể đã gây hại cho bệnh nhân khi khiến các ê-kíp chăm sóc rơi vào tình trạng thiếu người, mất cân bằng và quá mệt mỏi. Công cụ này thường xuyên xếp quá ít y tá, hoặc thiếu y tá kỳ cựu trong ca — đặc biệt vào chủ nhật — và thường phớt lờ nguyện vọng của nhân viên về việc giãn cách ca trực, làm đêm, cuối tuần hay xin nghỉ những ngày cụ thể.

Khi AI "đè" lên phán đoán lâm sàng

Hệ quả là các y tá phải mất nhiều thời gian hơn trước để đổi ca hoặc khiếu nại lịch làm việc. Họ cũng tin rằng đồng nghiệp ngày càng báo nghỉ nhiều hơn, dùng ngày phép có lương hoặc không lương để bỏ ca — dù làm vậy quá vài lần mỗi năm sẽ có nguy cơ bị sa thải.

Y tá và nhân viên y tế tại một bệnh viện ở Mỹ

Retzloff, 34 tuổi, là lãnh đạo công đoàn National Nurses United với một thập kỷ kinh nghiệm lâm sàng. Cô kể lại những ca gần đây khi cả bốn đồng nghiệp đều là y tá mới. Vì là người duy nhất có kinh nghiệm, cô buộc phải trì hoãn chăm sóc cho những bệnh nhân nặng nhất để hướng dẫn các đồng nghiệp trẻ xử lý những ca nhẹ hơn.

"HCA đang để AI điều khiển mọi thứ. Chúng tôi đang gạt bỏ phán đoán lâm sàng và yếu tố con người trong chăm sóc sức khỏe để thay bằng một ứng dụng."

Trước đây, quản lý xếp lịch thủ công và thường tham khảo ý kiến y tá từ rất sớm khi cần thay đổi. Với Timpani, các y tá cho biết họ phải thu xếp thay thế trong thời gian ngắn hơn, và số lần bị điều chuyển tạm thời sang ê-kíp khác cũng tăng lên.

Harlow Sumerford, phát ngôn viên của HCA, khẳng định rằng chính lãnh đạo điều dưỡng — chứ không phải Timpani — mới là người đưa ra quyết định cuối cùng về lịch trực. Ông bác bỏ cáo buộc rằng công cụ này "được thiết kế để giảm nhân lực bằng cách hy sinh chất lượng chăm sóc bệnh nhân". Theo ông, mục tiêu của HCA là "có đúng người chăm sóc, với đúng kỹ năng và kinh nghiệm, sẵn sàng đáp ứng nhu cầu bệnh nhân, đồng thời cân nhắc nguyện vọng xếp lịch của đồng nghiệp", và công ty vẫn đang cải thiện Timpani dựa trên phản hồi từ y tá.

"Cảm giác như bị đá khi đang nằm dưới đất"

Theo HCA, trung bình Timpani chỉ xếp y tá vào khoảng 1% số ngày nghỉ đã đăng ký — còn gọi là "red day". Lee Barker, một y tá HCA ở Missouri, cho rằng con số này nghe có vẻ thấp, nhưng việc bị xếp vào red day trước đây gần như chưa từng xảy ra tại cơ sở của cô. Chưa đầy một năm sau khi Timpani được đưa vào, Barker nói rằng gần như mọi y tá đều từng bị phân công làm việc vào ngày lẽ ra họ được nghỉ. Cô đã phải hoãn một cuộc hẹn bác sĩ đã lên kế hoạch từ lâu cho một bệnh lý mạn tính sau khi không thể đổi được ca bị gán vào red day.

"Cảm giác như chúng tôi đang bị đá khi đã nằm dưới đất rồi."

Những phàn nàn về Timpani đã buộc ban lãnh đạo HCA phải cập nhật phần mềm ở mức nhỏ, nhưng các vấn đề vẫn tiếp diễn. Lãnh đạo National Nurses United — công đoàn đại diện cho khoảng 10.000 trong số 100.000 y tá của HCA — cho biết công ty đã từ chối yêu cầu cung cấp thông tin về công nghệ này.

Một số chi tiết được hé lộ vào tháng 7 khi Angelique Russell, cựu quản lý khoa học dữ liệu của HCA, kiện công ty với cáo buộc bị sa thải trả đũa vì đã nêu lo ngại về Timpani. Bà cho rằng HCA thường xuyên xóa dữ liệu mà công cụ này dùng để tạo lịch, khiến việc kiểm toán hiệu quả hoạt động của nó trở nên bất khả thi và có thể vi phạm một số luật chăm sóc sức khỏe. HCA chưa chính thức phản hồi trước tòa, và Russell từ chối bình luận.

Timpani hoạt động như thế nào?

Timpani được xây dựng trên Palantir Foundry, một nền tảng phần mềm lưu trữ và phân tích dữ liệu từ khắp hoạt động của doanh nghiệp. Được đặt tên theo nhạc cụ giữ nhịp, nó dùng các dự báo thuật toán về lượng bệnh nhân và nhu cầu nhân lực để tự động tạo lịch trực cho y tá. Khi Timpani ra mắt năm 2023, Michael Schlosser — giám đốc đổi mới sáng tạo của HCA — nói với WIRED rằng nó sẽ tiết kiệm thời gian và tiền bạc, đồng thời loại bỏ tình trạng thiên vị khi phân ca.

Trong một bài viết hồi tháng 7 vừa qua, Schlosser cho biết Timpani đã giảm mạnh số giờ quản lý phải dành cho việc xếp lịch mỗi tháng, giảm phụ thuộc vào y tá hợp đồng đắt đỏ để lấp ca, và tăng tỷ lệ giữ chân nhân viên. Ông viết: "Hiệu quả đến từ việc AI tạo ra những lịch trực ban đầu tốt hơn", đồng thời cho biết hơn 98% lịch "bao gồm sự kết hợp giữa kỹ năng và kinh nghiệm".

Chính sách AI có trách nhiệm của HCA nhấn mạnh việc bảo vệ cá nhân khỏi tổn hại "thể chất" hoặc "tinh thần", và các lãnh đạo cho biết họ đã trao đổi với y tá và tiếp cận một cách thấu cảm trong quá trình phát triển Timpani. Trong tài liệu tiếp thị, công ty còn đăng hình ảnh các y tá khen công cụ dễ dùng và tiết kiệm thời gian.

Không chỉ HCA gặp rắc rối

Tuy nhiên, các y tá HCA khác nói họ cảm thấy bị phớt lờ và thiếu tôn trọng. Và họ không phải những nhân viên y tế duy nhất lo ngại về việc Palantir thâm nhập vào ngành này.

Rayus Radiology, một chuỗi chẩn đoán hình ảnh lớn tại Mỹ, bắt đầu nhận khiếu nại về lỗi xếp lịch từ đầu năm nay sau khi đưa vào một công cụ cũng xây dựng trên Palantir Foundry. Phần mềm này được thiết kế để tự động điền thông tin lịch hẹn từ chỉ định của bác sĩ. Nhưng trong nhiều trường hợp, nó liên kết yêu cầu với sai hồ sơ bệnh nhân, liệt kê xét nghiệm hoặc chụp chiếu không khớp với chỉ định, hoặc bịa ra thông tin cá nhân về bệnh nhân. Các nhân viên xếp lịch tại Rayus nghi ngờ rằng biểu mẫu không chuẩn, chữ viết tay khó đọc và việc thiếu kiểm tra của con người đã góp phần gây ra vấn đề.

Phát ngôn viên của Rayus, Kit Crancer, nói rằng "những mô tả chung chung" như vậy không phản ánh đúng "quy trình, biện pháp bảo vệ hay cam kết của công ty đối với việc chăm sóc bệnh nhân an toàn, chính xác và kịp thời". Ông nhấn mạnh Rayus dùng công nghệ để "hỗ trợ, chứ không thay thế, phán đoán và giám sát phù hợp của con người".

Một phát ngôn viên của Palantir từ chối bình luận dưới tên thật, nhưng công ty mô tả phần mềm của mình chỉ đơn thuần trình bày thông tin theo cách hữu ích hơn, đồng thời nhấn mạnh rằng khách hàng phải chịu trách nhiệm về dữ liệu, chính sách và quyết định.

Hannah Drummond, thành viên hội đồng sắp nhậm chức của National Nurses United, cho biết cô và đồng nghiệp tại một bệnh viện HCA ở Bắc Carolina sẽ đấu tranh chống lại bất kỳ nỗ lực nào nhằm đưa Timpani vào.

Nỗi lo Palantir

Doanh thu của Palantir gần đây tăng gần gấp đôi lên khoảng 2 tỷ USD mỗi quý, khi các tổ chức tìm đến nó để phân tích dữ liệu và tự động hóa công việc. Chi phí leo thang và tình trạng thiếu nhân lực khiến các đơn vị chăm sóc sức khỏe trở thành khách hàng đặc biệt háo hức. Cleveland Clinic từng ghi nhận phần mềm Palantir giúp tăng năng lực tiếp nhận bệnh nhân bằng cách dự báo các ca xuất viện từ phòng cấp cứu và thay thế điều phối thủ công.

Nhưng Palantir cũng vấp phải phản đối từ các nhà hoạt động vì quyền dân sự liên quan đến mảng quốc phòng và nhập cư, cũng như quan điểm chính trị được công khai của hai nhà đồng sáng lập Peter Thiel và Alex Karp. Tại Anh, Palantir đã giành được hợp đồng trị giá 440 triệu USD với Dịch vụ Y tế Quốc gia (NHS) để cắt giảm thời gian chờ khám, nhưng các y tá và nhà hoạt động đã yêu cầu hủy bỏ vì lo ngại về quyền riêng tư và an ninh.

Tại HCA, một số y tá cũng muốn Palantir rời đi. Dù các nghiên cứu cho thấy xếp lịch bằng AI có nhiều tiềm năng, họ nói Timpani đã trở thành nguồn cơn lo lắng.

"Mọi người kiểm tra ngay lập tức, và tháng nào cũng nghe thấy: 'Trời ơi, sao nó lại xếp mình như vậy?'"

Ban đầu, một số quản lý địa phương có thể chỉnh sửa lịch của Timpani. Giờ đây, y tá phải báo cáo các ca có vấn đề lên một nhóm tập trung tại trụ sở HCA ở Nashville, nơi xem xét khiếu nại mà không có trao đổi trực tiếp hay cơ hội giải thích. Nếu bị từ chối, họ thử đổi ca, nhưng Barker và Retzloff cho biết cơ hội thành công chỉ khoảng 50%.

Barker, lãnh đạo National Nurses United tại một trung tâm tâm thần của HCA, cho biết vài đồng nghiệp đã nghỉ việc vì Timpani, và số ca chấn thương tại nơi làm việc đã tăng trong 12 tháng đầu tiên sử dụng công cụ. Công đoàn của trung tâm với khoảng 500 y tá đã đệ đơn khiếu nại về phần mềm, cho rằng HCA không tôn trọng đầy đủ nguyện vọng xếp lịch. Vụ việc có khả năng sẽ được đưa ra trọng tài.

Trong những ngày đầu của Timpani, ông Schlosser của HCA thừa nhận nhân viên y tế có thể chậm tiếp nhận công nghệ "vì họ nắm sinh mạng con người trong tay". Nhưng ông hình dung một tương lai nơi các y tá tuyến đầu chủ động đòi thêm công cụ: "Lúc đó sẽ rất thú vị". Ba năm sau, một số y tá thấy chẳng có gì đáng để vui mừng.