Chiến tranh AI đã thực sự diễn ra: Cuộc tranh luận về vũ khí tự chủ và giới hạn đạo đức

Chiến tranh AI đã thực sự diễn ra: Cuộc tranh luận về vũ khí tự chủ và giới hạn đạo đức

Vào tháng 11 năm 2017, tại một diễn đàn của Liên Hợp Quốc ở Geneva chuyên thảo luận về các hệ thống vũ khí tự chủ chết người, Branka Marijan, một nhà nghiên cứu cấp cao tại Viện Ploughshares, đã nhận ra sự thay đổi lớn trong không khí của cuộc họp. Trước đây, các phiên thảo luận thường xoay quanh những giả thuyết về một tương lai xa xôi nơi robot sát thủ chiến đấu thay thế con người. Nhưng năm đó, mọi thứ đã khác. Tương lai đó bỗng chốc trở nên gần gũi và thực tế hơn bao giờ hết.

Minh họa về AI trong quân sự

Ngày đầu tiên của cuộc họp diễn ra ngay sau khi Lầu Năm Góc khởi động Dự án Maven — một sáng kiến sử dụng AI để phân tích hình ảnh từ máy bay không người lái. Đáng chú ý, vào cuối năm 2017, Google đã tham gia vào dự án này. Marijan nhận định: "Các hệ thống mà chúng ta đang thảo luận không phải là công nghệ tương lai. Chúng là các nền tảng hiện hữu đã có mức độ tự chủ, hoặc khả năng chọn lựa và tấn công mục tiêu dựa trên dữ liệu cảm biến."

Thế giới đã từng chứng kiến chiến tranh bằng máy bay không người lái — những cỗ máy chết người do con người điều khiển. Giờ đây, chúng ta đang nhìn vào một tương lai nơi con người có thể bị loại bỏ hoàn toàn khỏi quy trình ra quyết định.

Cuộc chiến giữa Anthropic và Lầu Năm Góc

Gần một thập kỷ sau, dù quân đội các nước chưa phát triển hoàn toàn vũ khí chết người tự chủ, nhưng các hệ thống này đang nằm ở tâm điểm của cuộc tranh căng thẳng cao độ giữa chính phủ Mỹ và startup AI Anthropic. Anthropic đang nỗ lực duy trì hai "đường đỏ" của mình: lệnh cấm giám sát hàng loạt trong nước và lệnh cấm vũ khí có thể nhận diện, theo dõi và tiêu diệt mục tiêu mà không có sự can thiệp của con người.

Tuy nhiên, giữa những thay đổi liên minh và các vụ kiện tụng, người ta dễ dàng bỏ qua bối cảnh rộng lớn hơn: AI đã và đang được lồng ghép sâu sắc vào quân sự trong suốt nhiều thập kỷ. Kể từ những năm 1950, Bộ Quốc phòng Mỹ đã nhận ra tiềm năng của AI cho chiến tranh, và sự ảnh hưởng của nó đã tăng trưởng theo cấp số nhân mỗi năm.

Minh họa về các giới hạn của AI quân sự

Vào đầu năm 2026, Bộ trưởng Quốc phòng Pete Hegseth đã yêu cầu đàm phán lại các hợp đồng AI hiện có, loại bỏ các khu vực xám và cho phép Lầu Năm Góc sử dụng công nghệ trong giới hạn "bất kỳ mục đích sử dụng hợp pháp nào". Anthropic, công ty AI duy nhất được phép triển khai công nghệ trên mạng máy mật của Lầu Năm Góc vào thời điểm đó, đã phản đối quyết định này.

Sự mơ hồ của luật pháp và đạo đức

Tại trung tâm của các cuộc tranh luận là Chỉ thị 3000.09 của Bộ Quốc phòng Mỹ, một trong số ít chính sách quản lý việc sử dụng vũ khí tự chủ chết người. Bản dự thảo ban đầu năm 2012 định nghĩa hệ thống này là hệ thống "một khi được kích hoạt, có thể chọn và tấn công mục tiêu mà không cần sự can thiệp thêm của người điều hành." Chỉ thị yêu cầu cả vũ khí tự chủ hoàn toàn và bán tự chủ đều phải được thiết kế để phép con người "thực hiện các mức độ phán đoán phù hợp" đối với việc sử dụng vũ lực.

Tuy nhiên, cách diễn đạt này tạo ra nhiều sự mơ hồ. Một số hệ thống phòng thủ tên lửa như Phalanx CIWS có thể đã vượt qua ranh giới này từ nhiều thập kỷ trước vì chúng phải phản ứng trong vài mili-giây. Các chuyên gia cho rằng sự khác biệt nằm ở việc các hệ thống này hoạt động trong môi trường phòng thủ thuần túy.

Nhưng Maddy Batt từ Tech Justice Law cảnh báo: "Ngay cả khi không có đầy đủ tính tự chủ, AI nén chuỗi tiêu diệt xuống chỉ còn vài giây, khiến con người thực sự không đưa ra được các đánh giá mà luật nhân đạo quốc tế yêu cầu để ngăn ngừa thiệt hại cho dân thường."

Dự án Maven và sự thay đổi của Thung lũng Silicon

Dự án Maven đã đánh dấu lần đầu tiên Thung lũng Silicon với triết lý "đừng làm điều ác" rõ ràng dính líu đến chiến tranh. Vào tháng 4 năm 2018, khoảng 4.000 nhân viên Google đã ký kiến nghị yêu cầu công ty rút lui khỏi "kinh doanh chiến tranh". Dưới áp lực nội bộ, Google đã chọn không gia hạn hợp đồng.

Tuy nhiên, Amazon và Microsoft nhanh chóng nhảy vào để nhận các hợp đồng trị giá hàng chục triệu USD cho cùng công việc này. Palantir sau đó đã tiếp quản, và Dự án Maven phát triển thành Hệ thống Thông minh Maven (MSS). MSS không chỉ cho phép phát hiện và theo dõi đối tượng mà còn phân tích dữ liệu giám sát trên quy mô lớn.

Thậm chí, Claude của Anthropic cũng được tích hợp vào giao diện người dùng của MSS, giúp các nhà phân tích truy vấn hệ thống về các khu vực địa lý cụ thể và loại tình báo hoặc mục tiêu. Mặc dù chỉ là một bổ sung nhỏ, điều này đã làm cho hệ thống hiệu quả hơn, từ đó cho phép xác định nhiều mục tiêu tiềm năng hơn.

Tốc độ thắng thua

Các công ty AI khác như OpenAI, Google, Nvidia và Oracle cũng đã nhanh chóng ký kết các thỏa thuận với Lầu Năm Góc. Trong nội bộ, nhân viên đã lên tiếng phản đối tương tự như những gì xảy ra với Google vào năm 2018, nhưng các giám đốc điều hành Thung lũng Silicon đang tích cực chống lại việc tổ chức của nhân viên.

Trong khi đó, Anthropic vẫn đang cố gắng lấy lại vị thế là nhà thầu quân sự và tình báo thông qua cuộc chiến pháp lý với chính quyền Trump. Giám đốc điều hành Dario Amodei đã kiên quyết về vấn đề giám sát hàng loạt người dân Mỹ, nhưng lại bày tỏ sự ủng hộ đối với việc giám sát những người khác.

Quan điểm này được cho là "cơ bản mâu thuẫn" với luật nhân đạo quốc tế, vốn yêu cầu đánh giá từng trường hợp cụ thể cho bất kỳ cuộc tấn công nào. Khi ông Hegseth tuyên bố ý định viết lại hợp đồng AI của Lầu Năm Góc, ông đã rõ ràng nêu rằng Bộ Quốc phòng "phải chấp nhận rằng rủi ro của việc không hành động đủ nhanh lớn hơn rủi ro của sự sắp xếp không hoàn hảo."

Với triết lý "tốc độ là trên hết", AI đã cho phép khả năng sát thương cao hơn bao giờ hết — và nó sẵn sàng đi xa hơn nữa. Nếu con người chỉ là "con dấu cao su" duyệt các quyết định của máy, như Marijan nhận định, thì "đường phân trách nhiệm ở đâu — và trách nhiệm pháp lý sẽ trông như thế nào?"