Những kịch bản ngày tận thế của AI mà giới nghiên cứu cảnh báo có thể đe dọa nhân loại

Trong nhiều năm, các nhà nghiên cứu trí tuệ nhân tạo (AI) đã cảnh báo về những cách thức công nghệ này có thể xóa sổ nhân loại: bot AI có thể thiết kế một loại dịch bệnh không thể ngăn chặn, châm ngòi chiến tranh hạt nhân, hoặc biến toàn bộ Trái Đất thành nhà máy sản xuất kẹp giấy — như một thí nghiệm tư duy nổi tiếng vẫn mô tả.

Cuộc tranh luận trong nội bộ ngành AI và cả bên ngoài về tính khả thi của những kịch bản ngày tận thế này đã nóng lên kể từ khi một số lãnh đạo doanh nghiệp lên tiếng ủng hộ việc làm chậm tốc độ phát triển công nghệ vì lý do an toàn.

Minh họa về các kịch bản ngày tận thế của AI

Những cảnh báo gây tranh cãi

Dù có những cảnh báo về nguy cơ con người mất kiểm soát công nghệ, một số chuyên gia cho rằng những kịch bản tồi tệ nhất do chính các công ty AI mô tả có liên quan nhiều đến việc khẳng định tầm quan trọng của công việc họ hơn là phản ánh thực tế.

"Những lập luận này thực sự không đứng vững. Tôi nghĩ chúng mang tính khoa học viễn tưởng và hấp dẫn đối với một kiểu tư duy trẻ con nào đó, đồng thời rất hấp dẫn với các phòng thí nghiệm tiên phong vì nó giúp họ chiêu mộ một số kiểu người nhất định," Juan Andrés Guerrero-Saade, nhà nghiên cứu tại hãng bảo mật SentinelOne và thành viên Hội đồng Rủi ro Tiên phong của OpenAI, nhận định.

Tuy vậy, ngày càng nhiều người bắt đầu lo ngại về những rủi ro của công nghệ đã khiến thế giới kinh ngạc với những khả năng phi thường của nó.

Jacob Coxon, nhà nghiên cứu của Anthropic từng từ chức vì lo ngại công ty này và các đối thủ không hành động có trách nhiệm trong phát triển AI, gần đây nói trên X rằng anh cần "nỗ lực" truyền đạt hiệu quả hơn cho mọi người về việc AI sẽ kết thúc nhân loại như thế nào. "Thật không may, rất khó để truyền đạt các kịch bản cụ thể," anh viết.

Mùa đông hạt nhân

Các nhà nghiên cứu từ lâu đã suy đoán rằng hệ thống AI có thể châm ngòi chiến tranh hạt nhân bằng cách khiến các quốc gia bắn tên lửa mang đầu đạn hạt nhân vào nhau. Các vụ nổ hạt nhân cùng lượng phóng xạ tồn đọng trong khí quyển dẫn đến "mùa đông hạt nhân" có thể tàn phá sự sống trên Trái Đất.

Trong một báo cáo năm ngoái, các nhà nghiên cứu của RAND Corp. kết luận rằng "hiện tại" AI không thể gây ra việc sử dụng vũ khí hạt nhân "do các biện pháp bảo vệ nghiêm ngặt được tích hợp trong hệ thống chỉ huy và điều khiển." Tuy nhiên, báo cáo cho biết điều này có thể thay đổi nếu các mô hình AI được tích hợp vào "chuỗi quyết định" vũ khí hạt nhân hoặc có được quyền truy cập trái phép vào các hệ thống này.

Với nhiều nhà nghiên cứu AI, nguy hiểm nằm ở đó — không phải ở việc các tác nhân AI đột nhiên quyết định kết liễu nhân loại, mà ở việc con người, các quốc gia hoặc nhóm người sử dụng nó để xóa sổ đối thủ.

Vũ khí sinh học

Một trong những lời hứa lớn nhất của AI là có thể giúp con người phát triển phương pháp điều trị và chữa khỏi bệnh tật.

Mặt trái của việc chữa bệnh là tạo ra hoặc phát triển chúng để gây hại cho nhân loại. Đầu tháng này, Anthropic cho biết đã ngăn chặn các nỗ lực của những kẻ xấu sử dụng AI của họ cho một loạt hoạt động độc hại như tấn công mạng, giám sát và nghiên cứu có thể dẫn tới vũ khí sinh học.

Trong một trường hợp, Anthropic cho biết hệ thống của họ đã chặn yêu cầu hỗ trợ từ công cụ Claude cho một đề xuất nghiên cứu nhằm tăng cường đột biến để khiến virus chikungunya do muỗi truyền ngày càng có hại hơn. Dù nghiên cứu như vậy có thể được dùng để phát triển vaccine và phương pháp điều trị tốt hơn, Anthropic nói, "nó cũng có thể được dùng để khiến mầm bệnh trở nên nguy hiểm hơn."

Cùng quan điểm đó, báo cáo của RAND lưu ý tiến bộ gần đây trong phát triển AI "có tiềm năng biến đổi thiết kế của các mầm bệnh tổng hợp."

AI vượt tầm kiểm soát

Một số nhà nghiên cứu AI lo ngại sự kiện tuyệt chủng loài người có thể xuất phát từ "lệch hướng" (misalignment) — tức là khi các mô hình AI hành động mà không có sự cho phép của con người, phối hợp với các mô hình khác hoặc né tránh sự giám sát. Nó không xuất phát từ ý đồ độc ác — AI vốn không phải con người, cũng không tốt hay xấu — mà đơn giản vì con người có thể cản trở mô hình đạt được mục tiêu.

Lấy ví dụ thí nghiệm tư duy "cỗ máy tối đa hóa kẹp giấy" đã có từ nhiều thập kỷ của triết gia Oxford Nick Bostrom: nếu AI tiên tiến được lệnh sản xuất càng nhiều kẹp giấy càng tốt, cuối cùng nó có thể biến toàn bộ Trái Đất, rồi những phần ngày càng lớn của không gian, thành nhà máy sản xuất kẹp giấy.

Điều này nhằm minh họa cách AI siêu thông minh — thường được gọi là trí tuệ nhân tạo tổng hợp (AGI) — có thể theo đuổi một mục tiêu mà con người có thể coi là mong muốn nhưng "thực tế hóa ra lại là một viễn cảnh không tưởng giả tạo, trong đó những điều thiết yếu cho sự phồn thịnh của con người đã bị mất đi không thể đảo ngược," Bostrom viết năm 2003.

"Chúng ta cần cẩn thận với những gì mình mong muốn từ một siêu trí tuệ, bởi vì chúng ta có thể đạt được nó," ông viết.

AI thâu tóm internet

Với tốc độ phát triển của AI, CEO Anthropic Dario Amodei cảnh báo trong tháng này rằng chỉ trong vài tháng nữa, một bầy tác nhân AI có thể có khả năng "thâu tóm" internet bằng một mạng botnet (mạng lưới các bot liên kết với nhau bằng mã độc), có khả năng gây thiệt hại hàng tỷ USD. Điều này có nghĩa là các cuộc tấn công vào lưới điện, hệ thống nước hoặc giao thông và các tổ chức tài chính — những cuộc tấn công có thể không đồng nghĩa với ngày tận thế của nhân loại nhưng có thể gây hỗn loạn và mất mát sinh mạng.

Những gián đoạn do lỗi phần mềm trong quá khứ đã làm nổi bật sự mong manh của một thế giới số hóa phụ thuộc vào chỉ một vài nhà cung cấp dịch vụ máy tính then chốt, và các mô hình AI mạnh mẽ hơn đã làm dấy lên lo ngại về lỗ hổng trước các cuộc tấn công mạng. Nhưng một số chuyên gia cho rằng ý tưởng bot chiếm đoạt toàn bộ internet vốn cực kỳ phân tán là điều khó xảy ra.

SecurityWeek

Góc nhìn cho độc giả Việt Nam

Với Việt Nam, những cảnh báo này không chỉ là câu chuyện ở phương xa. Khi các doanh nghiệp và tổ chức trong nước ngày càng ứng dụng AI vào tài chính, y tế, hạ tầng và an ninh mạng, việc hiểu rõ các rủi ro — từ tấn công mạng quy mô lớn đến việc sử dụng AI cho mục đích sinh học độc hại — trở thành yêu cầu cấp thiết. Các chuyên gia khuyến nghị doanh nghiệp cần xây dựng quy trình quản trị AI, kiểm soát quyền truy cập của các tác nhân tự chủ và đảm bảo có con người giám sát những quyết định quan trọng.

Cuộc tranh luận về ngày tận thế AI có thể còn gây chia rẽ, nhưng một điều rõ ràng: việc chuẩn bị cho những rủi ro thực tế của công nghệ này là trách nhiệm không thể trì hoãn.