AI 'ảo giác' suýt châm ngòi một chiến dịch quân sự của Mỹ

Một sự việc đáng báo động vừa được CNN đưa tin: máy bay quân sự Mỹ đã cất cánh, sẵn sàng cho một chiến dịch vũ trang nhắm vào một tàu Trung Quốc, thì giới chức nước này phát hiện ra rằng thông tin tình báo dẫn đường cho chiến dịch được tạo ra bởi một chatbot AI bị "ảo giác". Chiến dịch bị hủy ở phút cuối, suýt nữa thì châm ngòi một cuộc xung đột với Trung Quốc.

Sự việc này phơi bày một mối lo ngại ngày càng lớn trong giới quân sự và các chuyên gia: khi các nhà ra quyết định ngày càng dựa vào AI, những sai sót do hệ thống này tạo ra có thể lan truyền ngược lên chuỗi chỉ huy trước khi bị chất vấn.

Chuyện gì đã xảy ra?

Báo cáo tình báo được lưu hành trong thời gian diễn ra cuộc chiến với Iran cho rằng con tàu đang chở các linh kiện dùng cho một chương trình vũ khí hạt nhân. Thông tin sai lệch này bắt nguồn từ một nhà phân tích của Bộ Chỉ huy Tác chiến Đặc biệt, người đã truy vấn một chatbot AI để tổng hợp dữ liệu nguồn mở với thông tin tình báo tín hiệu mật.

Chatbot đã nhận diện sai bảng kê hàng hóa của con tàu. Sau đó, nhà phân tích này tiếp tục dùng công cụ AI một lần nữa để định dạng các phát hiện sai lệch thành một bản tóm tắt trông có vẻ chính thức, rồi lưu hành khắp các kênh chỉ huy.

Điều quan trọng là các quân nhân phải hiểu được tính bất định vốn có của các mô hình ngôn ngữ lớn (LLM).

Jake Steckler, nghiên cứu viên tại GovAI và là cựu sĩ quan Lục quân Mỹ, nhấn mạnh trong trả lời TechCrunch:

"Điều này đặc biệt quan trọng với bất kỳ quyết định nào có thể dẫn tới việc sử dụng vũ lực, như nhắm mục tiêu, phân tích tình báo hay lập kế hoạch tác chiến. Những quyết định đó có thể gây hậu quả sinh tử."

Cạm bẫy của tốc độ

Sự cố suýt xảy ra này diễn ra đúng lúc quân đội Mỹ đang chạy đua tích hợp AI để tăng tốc quá trình ra quyết định và duy trì lợi thế trước Trung Quốc. Lầu Năm Góc mô tả AI mang lại lợi thế đáng kể trong việc rút ngắn chuỗi ra quyết định, giúp các chỉ huy phản ứng kịp thời.

Nhưng chính tốc độ khiến AI trở nên hấp dẫn cũng có thể cho phép các ảo giác lọt qua khi thiếu sự giám sát đầy đủ của con người. Khi một bản tóm tắt trông có vẻ chính thức được lưu hành, rất ít người có đủ thẩm quyền và thời gian để kiểm chứng lại từng chi tiết.

Không phải lý do để né tránh AI

Dù vậy, Steckler cho rằng sự việc này nên là lời kêu gọi bổ sung thêm các biện pháp bảo vệ cho AI, chứ không phải lý do để né tránh công nghệ này.

"Những công cụ này có thể hữu ích trong đúng ngữ cảnh và với các biện pháp bảo vệ phù hợp. Nhưng đặt tốc độ ứng dụng lên trên hết sẽ dễ dẫn tới những sự cố khiến quân nhân mất niềm tin vào các hệ thống này, và cuối cùng chỉ làm chậm quá trình ứng dụng."

Bài học cho Việt Nam

Câu chuyện này là lời cảnh tỉnh cho bất kỳ tổ chức nào đang tích hợp AI vào quy trình ra quyết định quan trọng — từ cơ quan nhà nước, doanh nghiệp đến các lĩnh vực nhạy cảm như tài chính, y tế hay an ninh.

Các mô hình ngôn ngữ lớn về bản chất luôn có xác suất tạo ra thông tin nghe hợp lý nhưng sai sự thật. Vì vậy, nguyên tắc cốt lõi là:

• Luôn có con người kiểm chứng ở các bước ra quyết định then chốt
• Xây dựng quy trình xác minh chéo cho thông tin do AI tạo ra
• Ưu tiên độ tin cậy thay vì chỉ chạy theo tốc độ triển khai
• Đào tạo người dùng hiểu rõ giới hạn và độ bất định của AI

AI vẫn là công cụ mạnh mẽ, nhưng sức mạnh đó chỉ an toàn khi đi kèm sự giám sát và trách nhiệm rõ ràng của con người.