Quân đội Mỹ suýt gây chiến vì báo cáo tình báo do AI tạo ra sai sự thật

Một sai lầm của trí tuệ nhân tạo (AI) đã đẩy quân đội Mỹ đến bờ vực của một cuộc xung đột vũ trang với Trung Quốc. Câu chuyện vừa được CNN đưa ra như một lời cảnh báo đanh thép về việc giao phó những quyết định sống còn cho công nghệ chưa được kiểm chứng.

Báo cáo "hoàn toàn sai sự thật" và cuộc chặn tàu suýt xảy ra

Vào mùa xuân năm nay, giữa lúc cuộc chiến với Iran đang diễn ra, một báo cáo tình báo được lan truyền khắp quân đội Mỹ đã ngay lập tức gây báo động. Theo nội dung báo cáo, một tàu Trung Quốc ở Trung Đông đang vận chuyển các linh kiện thuộc chương trình vũ khí hạt nhân.

Quân đội Mỹ lập tức vào cuộc với kế hoạch chặn con tàu, theo lời bốn nguồn tin am hiểu sự việc. Hai trong số đó cho biết các binh sĩ Mỹ đã được trang bị vũ khí và chuẩn bị lên tàu. Máy bay quân sự cũng đã cất cánh.

Quân đội Mỹ thực hiện huấn luyện hệ thống bay không người lái

Chỉ ngay trước khi chiến dịch được triển khai, giới chức mới xem xét kỹ hơn báo cáo do một nhà phân tích thuộc bộ chỉ huy tác chiến đặc biệt soạn thảo và phát hiện ra rằng nó được tạo ra với sự hỗ trợ của AI. Tệ hơn, chatbot mà nhà phân tích này sử dụng đã xác định sai loại vật liệu mà con tàu đang chở.

Theo một nguồn tin, báo cáo này "hoàn toàn sai sự thật". Nhưng nó cũng "suýt châm ngòi một cuộc chiến", nguồn tin nói thêm. Bất kỳ hành động quân sự nào của Mỹ nhắm vào một tàu Trung Quốc đều có thể leo thang thành xung đột vũ trang giữa hai quốc gia.

AI đang len vào mọi ngóc ngách của bộ máy quân sự

Trên khắp quân đội Mỹ và cộng đồng tình báo, giới chức đang thúc đẩy việc đưa AI vào gần như mọi khía cạnh công việc: từ phân tích khối lượng khổng lồ dữ liệu tình báo thô mà Mỹ thu thập, lựa chọn mục tiêu không kích, cho đến những ứng dụng đời thường hơn như quản lý ngân sách, hậu cần và chuỗi cung ứng.

Sự việc trên cho thấy những rủi ro sâu sắc của việc sử dụng công nghệ mới mẻ, mạnh mẽ nhưng còn ít được hiểu rõ này để nhắm mục tiêu giữa lúc chiến tranh đang diễn ra. Các nhà phân tích từ lâu đã lo ngại AI có thể dẫn đến những tính toán sai lầm thảm khốc nếu các quốc gia dựa vào dữ liệu nghèo nàn hoặc bị thao túng.

Trong trường hợp cụ thể này, nhà phân tích đã truy vấn một chatbot về dữ liệu tình báo liên quan đến bản kê khai hàng hóa của con tàu, dữ liệu có nguồn gốc từ Bộ Chỉ huy Tác chiến Đặc biệt Thái Bình Dương của Mỹ đóng tại Hawaii. Không rõ chatbot này là sản phẩm thương mại hay của chính phủ Mỹ.

"Các công cụ nội bộ phần lớn chỉ là bản sao của những sản phẩm thương mại khoác thêm lớp sơn son", một cựu quan chức cấp cao Mỹ am hiểu về các hệ thống AI mà giới phân tích quân sự và tình báo sử dụng nhận xét.

Theo nguồn tin, chatbot đã kết hợp dữ liệu tình báo nguồn mở với dữ liệu tín hiệu mật trong kho lưu trữ của chính phủ, rồi đi đến kết luận sai lầm về loại vật liệu mà con tàu đang chở. Sau đó, nhà phân tích tiếp tục dùng AI để đóng gói các phát hiện thành một báo cáo tình báo theo chuẩn mực — loại báo cáo vốn được giới quân sự tin cậy — và phát tán đi.

Chạy đua AI quân sự và khoảng trống quản trị

Lý do đằng sau việc ứng dụng AI nhanh chóng là nó có thể giúp quân đội đưa ra quyết định trên chiến trường nhanh hơn, như nên không kích mục tiêu nào hay điều chuyển khí tài đến đâu. Giới chức cho rằng Mỹ không thể để chậm chân trong việc tích hợp AI, phòng trường hợp một ngày nào đó phải đối đầu với Trung Quốc hay một đối thủ có thể nắm lợi thế trước Mỹ.

Hồi tháng 1, Bộ trưởng Quốc phòng Mỹ khi đó là Pete Hegseth đã công bố "Chiến lược Tăng tốc Trí tuệ Nhân tạo" của cơ quan, nhằm đẩy nhanh việc sử dụng AI trong quân đội. Chiến lược này cũng thúc đẩy ứng dụng rộng rãi trên toàn quân, với mục tiêu "dân chủ hóa việc thử nghiệm và chuyển đổi AI trên toàn Bộ bằng cách đặt các mô hình AI hàng đầu thế giới của Mỹ trực tiếp vào tay ba triệu nhân viên dân sự và quân sự, ở mọi cấp độ mật".

Tuy nhiên, nỗ lực này mang tính phân tán. Nhiều quan chức Mỹ cho biết các bộ phận khác nhau của chính phủ sử dụng những công cụ khác nhau, theo những mệnh lệnh và tiêu chuẩn an toàn khác nhau. Không có một bộ tiêu chuẩn thống nhất nào về cách Mỹ xác minh thông tin do các công cụ này tạo ra. Sự đa dạng của các hệ thống AI được triển khai ở những góc khác nhau của quân đội và cộng đồng tình báo khiến độ tin cậy và tính năng biến động rất lớn.

Bộ trưởng Quốc phòng Mỹ Pete Hegseth phát biểu tại phiên điều trần

Rủi ro "ảo giác" AI và áp lực lên các nhà phân tích

Sự việc với con tàu Trung Quốc phơi bày một rủi ro khác, trực tiếp hơn: con người đưa ra những quyết định tai hại dựa trên thông tin sai lệch do AI hoặc các hệ thống tự động khác tạo ra. Các nguồn tin cho biết quân đội đang nhanh chóng chuyển sang dùng AI để hỗ trợ nhắm mục tiêu — lĩnh vực tiềm ẩn rủi ro sai sót chết người.

"AI trong việc nhắm mục tiêu chắc chắn là thứ đang gia tăng và không có hướng dẫn thực sự nào về việc duy trì con người trong vòng kiểm soát sẽ ngăn chặn thương vong dân sự hay hỏa lực nhầm như thế nào", một nguồn tin am hiểu chính sách hiện hành của quân đội cho biết.

Theo một nguồn tin, kiểu "ảo giác" mà công cụ mà nhà phân tích sử dụng đã tạo ra không phải là sự cố cá biệt trong cộng đồng tình báo kể từ khi các công cụ này lan rộng khắp chính phủ. Với một số quan chức tình báo kỳ cựu — ngay cả những người ủng hộ rộng rãi việc dùng AI trong quân đội — AI đã tạo áp lực buộc các nhà phân tích phải sản xuất và phát tán tình báo nhanh hơn, mở đường cho sai sót.

Đặc biệt, các nhà phân tích trẻ tuổi được cho là những người lớn lên cùng các công cụ này và có xu hướng tin tưởng chúng một cách thiếu phê phán.

"AI cho phép bạn đi đến một ý tưởng tồi nhanh hơn", một nguồn tin nhận định.

Bài học cho Việt Nam và khu vực

Câu chuyện này là hồi chuông cảnh tỉnh không chỉ với nước Mỹ. Tại Việt Nam và khu vực Đông Nam Á, nhiều cơ quan nhà nước và doanh nghiệp cũng đang tích cực đưa AI vào các quy trình quan trọng như phân tích dữ liệu, ra quyết định và vận hành hệ thống. Rủi ro "ảo giác" — hiện tượng AI bịa ra thông tin nghe có vẻ hợp lý nhưng sai sự thật — vẫn là một trong những điểm yếu cố hữu của các mô hình ngôn ngữ lớn hiện nay.

Bài học rút ra rất rõ ràng:

• Luôn có con người kiểm chứng: AI chỉ nên đóng vai trò hỗ trợ, không thay thế hoàn toàn phán đoán của con người, đặc biệt trong các quyết định có hậu quả nghiêm trọng.
• Yêu cầu minh bạch nguồn dữ liệu: Cần truy xuất được AI lấy thông tin từ đâu, và liệu dữ liệu đó có đáng tin cậy hay không.
• Xây dựng tiêu chuẩn chung: Việc mỗi đơn vị dùng một công cụ với tiêu chuẩn an toàn riêng tạo ra lỗ hổng lớn, như trường hợp nước Mỹ đang cho thấy.
• Đào tạo nhận thức về giới hạn của AI: Đặc biệt với thế hệ nhân sự trẻ, những người dễ tin tưởng công cụ AI một cách vô điều kiện.

Khi AI ngày càng tham gia sâu vào các quy trình ra quyết định, việc xây dựng cơ chế kiểm soát và xác minh chặt chẽ không còn là lựa chọn mà là yêu cầu bắt buộc. Một báo cáo sai có thể chỉ gây nhầm lẫn trong kinh doanh, nhưng trong quân sự và an ninh quốc gia, nó có thể là khoảng cách mong manh giữa hòa bình và chiến tranh.