Cảnh báo khẩn cấp do AI soạn: Liệu con người đã sẵn sàng tin tưởng?

Các cơ quan quản lý tình huống khẩn cấp trên khắp nước Mỹ đang đứng trước một lựa chọn khó khăn: tiếp tục soạn cảnh báo thiên tai theo cách thủ công vốn dễ mắc lỗi, hay để trí tuệ nhân tạo đảm nhận phần việc mà nhiều chuyên gia cho rằng máy móc có thể làm tốt hơn con người.

Câu chuyện bắt đầu từ một sự việc đáng chú ý hồi đầu tháng. Sau khi bão Isaias đổ bộ vào vùng Vịnh với cường độ cấp 3, Laura Myers – Giám đốc Trung tâm An toàn Công cộng Tiên tiến thuộc Đại học Alabama – nhận được cuộc gọi từ một nhà khí tượng học tại Alabama. Người này cho biết một cán bộ quản lý khẩn cấp địa phương đã công bố một hình ảnh đồ họa mô phỏng nguy cơ bão tấn công bờ biển, được tạo ra bằng chatbot AI. Vấn đề nằm ở chỗ: hình ảnh đó không chính xác về mặt khí tượng.

"Vị cán bộ quận đó muốn các bên liên quan tập trung vào rủi ro tại quận mình, nên đã nhờ AI hỗ trợ. AI làm đúng điều ông ấy yêu cầu, nhưng thông tin không hề chính xác về mặt khí tượng."

Trung tâm giám sát cảnh báo của thành phố New York

Khi con người là mắt xích yếu nhất

Hầu hết cơ quan quản lý khẩn cấp không cho phép nhân viên dùng AI tạo sinh, nhưng giới chuyên gia đều đồng tình rằng việc sử dụng đã diễn ra phổ biến một cách không chính thức. Lý do rất đơn giản: con người vốn không giỏi truyền đạt trong tình huống khẩn cấp.

Các cán bộ thường viết cảnh báo bằng thuật ngữ chuyên môn khó hiểu, bỏ sót thông tin vì cho rằng công chúng đã biết, hoặc đưa vào những chi tiết không liên quan khiến người dân mất tập trung. Jeannette Sutton, nhà nghiên cứu thảm họa tại Đại học Albany, nhận xét:

"Nhiều cơ quan bị hạn chế nghiêm trọng về nguồn lực và nhân sự. Họ nhận thức được đây là ưu tiên, nhưng chỉ thực sự ưu tiên khi nhận ra mình lẽ ra phải làm từ trước. Họ chỉ cố hoàn thành công việc mà không gây ra sai sót."

Hậu quả của việc truyền đạt kém có thể là sinh mạng. Năm 2016, hai quận liền kề ở California ban hành lệnh "sơ tán tự nguyện" và "sơ tán bắt buộc" cho cùng một vụ cháy rừng. Năm 2019 tại Australia, cụm từ "Watch and Act" trong cảnh báo cháy rừng bị chính phủ thừa nhận gây "nhầm lẫn nghiêm trọng" vì không ai hiểu nó nghĩa là gì.

Thảm kịch Montecito năm 2018 là ví dụ đau xót nhất. Chỉ vài tuần sau vụ cháy Thomas, mưa lớn gây lở đất bùn khiến 23 người thiệt mạng và hơn 160 người bị thương. Chính quyền quận Santa Barbara đã gửi cảnh báo đến toàn bộ vùng sơ tán tự nguyện, nhưng nhiều cư dân – vốn đã mệt mỏi vì phải sơ tán lần hai trong một tháng – đã bỏ qua. Với họ, thông báo ấy chỉ mang tính tùy chọn.

AI – ứng viên lý tưởng cho bài toán cảnh báo

Về lý thuyết, cảnh báo khẩn cấp là một trong những ứng dụng hoàn hảo nhất của AI tạo sinh. Cơ quan Quản lý Khẩn cấp Liên bang Mỹ (FEMA) có các khóa đào tạo về cách soạn cảnh báo, nhưng nhiều cán bộ không nhớ hết khi thảm họa ập đến. Một mô hình ngôn ngữ lớn thì khác: nó có thể đọc hàng trăm nghìn cảnh báo trong vài phút, tổng hợp toàn bộ nghiên cứu về những gì hiệu quả trong các tình huống tương tự, rồi chỉnh sửa một bản cảnh báo chỉ trong vài giây.

Rob Dale, cựu nhà khí tượng học hiện phụ trách bộ phận quản lý khẩn cấp tại quận Ingham, Michigan, chia sẻ thẳng thắn:

"Nếu bạn chỉ từng gửi một cảnh báo trong đời, cách đây 15 năm, giờ phải nhớ lại toàn bộ khóa đào tạo trong khi điện thoại réo liên hồi, radio rú ầm ĩ và một luồng khí hóa học đang tiến về phía mình – thì AI nhiều khả năng sẽ làm tốt hơn bạn."

Ông Dale đã dùng AI để soạn thử vài cảnh báo nhưng chưa từng phát đi bản thật nào. Nếu có thảm họa xảy ra, ông sẵn sàng để chatbot soạn thảo nhưng vẫn muốn giữ quyền quyết định phát cảnh báo.

Startup EM1 đã huấn luyện mô hình dựa trên nghiên cứu của Sutton và khẳng định nó đã vượt trội so với gần như mọi cán bộ quản lý khẩn cấp. Thử nghiệm với một cảnh báo lũ lụt thực tế do quận ở New Mexico phát đi, mô hình đã nhanh chóng sửa lại thành phiên bản chuẩn mực hơn hẳn.

Bản gốc viết: "Bờ đê vỡ. Nước đang dâng. SƠ TÁN NGAY. Công viên McGee mở cửa cho người và thú cưng, xe RV." Bản sửa của AI nêu rõ cơ quan phát cảnh báo, địa điểm cụ thể, đối tượng cần sơ tán, hướng dẫn an toàn và nguồn cập nhật thông tin – đồng thời sửa cả lỗi chính tả.

Cảnh báo sơ tán sai tại Los Angeles gây hoang mang trong mùa cháy rừng

Niềm tin – đồng tiền của ngành quản lý khẩn cấp

Dù vậy, ngay cả những nhà nghiên cứu lạc quan về chatbot cũng cảnh báo việc chuyển giao hoàn toàn có thể phản tác dụng. Những người dân vốn hoài nghi AI hoặc không tin chính quyền có thể quay lưng với các cơ quan công bố nội dung do AI tạo ra. Tại Syracuse, New York, một công đoàn nhân viên nhà nước đã kiện chính quyền địa phương vì dùng dịch vụ AI để trả lời các cuộc gọi 911 không khẩn cấp.

"Chúng ta tin vào những gì mình cảm nhận là chân thực và quan tâm đến mình. Nội dung do AI tạo ra không mang lại cảm giác đó."

– Ginny Katz, nhà sáng lập HazAdapt

Còn một rủi ro nữa: chatbot có thể khiến các cán bộ phát cảnh báo nhiều hơn và nhanh hơn, làm gia tăng tình trạng "mệt mỏi cảnh báo" khiến người dân dần thờ ơ với các thông báo.

Các chuyên gia nhấn mạnh rằng ở thời điểm hiện tại, phần mềm chỉ giỏi ngang người sử dụng nó. Một cán bộ dày dạn kinh nghiệm có thể tăng tốc độ truyền đạt nhờ chatbot, nhưng một người thiếu kinh nghiệm, đang cuống cuồng soạn cảnh báo khẩn, sẽ không đủ khả năng đánh giá chất lượng đầu ra của ChatGPT hay Claude. Và dù công nghệ còn xa mới đạt tới mức vận hành mà không cần chuyên gia can thiệp, điều đó không ngăn các phòng ban thiếu nhân sự tiếp tục sử dụng nó.

Justin Snair, nhà sáng lập Preppr – một công ty khác cung cấp phần mềm AI cho ngành quản lý khẩn cấp – đặt câu hỏi trọng tâm: "Nếu bạn nhận được tin nhắn từ một người và từ một cỗ máy, bạn sẽ tin bên nào chính xác hơn?" Câu trả lời, theo ông, phụ thuộc vào chính người nhận.

Với độc giả Việt Nam, câu chuyện này cũng đáng suy ngẫm. Những năm gần đây, các tỉnh thành nước ta thường xuyên đối mặt với bão lũ, sạt lở và nắng nóng cực đoan, trong khi hệ thống cảnh báo vẫn chủ yếu dựa vào tin nhắn hàng loạt và loa phát thanh. Việc ứng dụng AI để soạn cảnh báo rõ ràng, dễ hiểu và kịp thời là hướng đi đáng cân nhắc – nhưng chỉ khi đi kèm cơ chế kiểm duyệt của con người và sự minh bạch với công chúng.