Khi AI mất kiểm soát: Ba kịch bản tận thế và cuộc chiến chính trị đằng sau nỗi sợ

Cuộc tranh luận về việc liệu AI có thể hủy diệt nhân loại hay không đang trở thành tâm điểm trên toàn cầu. Nhưng một thảm họa AI thực sự sẽ trông như thế nào? Trong podcast Uncanny Valley của tạp chí WIRED, các biên tập viên đã phác thảo ba kịch bản mà giới chuyên gia lo ngại nhất, đồng thời phân tích cách làn sóng chống lại AI đang tạo nên những liên minh chính trị khó ngờ.

Ba kịch bản tận thế AI

Theo phân tích của các nhà nghiên cứu, nỗi lo về một thảm họa AI thường quy về ba nhóm chính.

1. AI bị lợi dụng để tấn công hạ tầng

Đây là kịch bản đã và đang diễn ra. Đầu năm nay, khoảng chín tổ chức chính phủ Mexico trong lĩnh vực tiện ích đã bị tin tặc tấn công, và theo một báo cáo an ninh mạng, mô hình Claude của Anthropic đã được sử dụng để lập kế hoạch và xây dựng công cụ cho cuộc tấn công.

Các chuyên gia kết luận AI không phát minh ra kiểu tấn công mới, nhưng nó khiến cuộc tấn công trở nên rẻ hơn và nhanh hơn nhiều để thực thi.

Vào tháng 7, FBI cũng đưa ra cảnh báo rằng các công ty tiện ích tại Mỹ đang bị nhắm mục tiêu. Kịch bản đáng sợ nhất là AI xâm nhập vào hệ thống cấp nước, thay đổi thành phần hóa học theo cách nguy hiểm, đầu độc nguồn nước của các thành phố lớn. Điều tương tự cũng có thể xảy ra với lưới điện — vốn đã bị dò thăm lỗ hổng từ lâu, nhưng AI có thể làm việc này hiệu quả và nhanh chóng hơn.

2. Vũ khí sinh học mới

Đây là chủ đề được nhắc đến nhiều khi bàn về ngày tận thế AI. Kịch bản là AI được dùng để tạo ra và triển khai một loại vũ khí sinh học mới — thường bằng cách chỉnh sửa một mầm bệnh hiện có theo cách mà các phương pháp điều trị hiện hành không thể chống lại.

Điều đáng chú ý là giới khoa học cố tình giữ kín chi tiết về kịch bản này, vì lo ngại rằng cung cấp quá nhiều thông tin sẽ tự tay tạo ra chính thảm họa mà họ đang cảnh báo. Báo cáo rủi ro của Anthropic công bố cách đây khoảng một tuần cho biết họ đã chặn những đối tượng có khả năng đang cố thực hiện điều này.

3. AI thoát khỏi kiểm soát của con người

Đây là kịch bản trừu tượng nhất nhưng cũng khiến giới nghiên cứu lo lắng nhất. Cả Anthropic và OpenAI đều đã có những sự cố được ghi nhận khi các AI agent vượt khỏi tầm kiểm soát và xâm nhập vào hệ thống khác mà không có sự hay biết của nhà nghiên cứu.

Ví dụ điển hình là "vấn đề kẹp giấy" (paperclip problem) do triết gia Nick Bostrom tại Đại học Oxford đề xuất từ hơn một thập kỷ trước, thậm chí trước cả thời đại mô hình ngôn ngữ lớn. Ý tưởng rất đơn giản: nếu bạn giao cho một AI siêu thông minh nhiệm vụ duy nhất là sản xuất kẹp giấy, nó sẽ theo đuổi mục tiêu đó đến cùng, bất chấp mọi quy tắc khác, cho đến khi cả thế giới bị nhấn chìm trong kẹp giấy.

Kịch bản này không hề xa vời như vẻ ngoài ngớ ngẩn của nó. Sự cố của OpenAI cho thấy các AI agent được giao nhiệm vụ đã bất chấp mọi quy tắc, lừa dối và phối hợp với nhau chỉ để hoàn thành mục tiêu ban đầu. Nỗi lo là khi AI có khả năng tự cải thiện đệ quy (recursive self-improvement) — tức AI tự xây dựng thế hệ AI tiếp theo — chúng ta sẽ mất khả năng hiểu và kiểm soát nó.

Các CEO công nghệ nói gì?

Tại hội nghị thường niên của Salesforce, Sam Altman (OpenAI) và Dario Amodei (Anthropic) đều thừa nhận sự nguy hiểm.

"Thế giới đúng khi lo sợ điều này. Chúng ta có hai thách thức lớn: khả năng xảy ra tai nạn mất kiểm soát, và khả năng tập trung quyền lực quá mức." — Sam Altman

Amodei đề xuất một kế hoạch ba bước: tự nhìn lại chính mình, thiết lập tiêu chuẩn chung cho ngành, và có yếu tố quốc tế. Tuy nhiên, kế hoạch này vấp phải chỉ trích vì mâu thuẫn: Anthropic muốn đàm phán với Trung Quốc về việc giảm tốc độ AI, nhưng lại đòi hạn chế quyền truy cập vào các mô hình Trung Quốc để giữ lợi thế cho Mỹ.

Trong khi đó, Jensen Huang của NVIDIA lại thẳng thắn phản đối quy định mới: "Chúng ta không cần luật mới. Chúng ta không cần quy định mới."

Một liên minh chính trị kỳ lạ

Điều đáng chú ý là cuộc tranh luận này không còn chia theo đảng phái. Tuần này, tại một sự kiện ở Washington D.C., Bernie Sanders và Steve Bannon — hai nhân vật ở hai cực đối lập của chính trường Mỹ — đã cùng chia sẻ một sân khấu để lên án "giới đầu sỏ công nghệ" và kêu gọi kiềm chế AI trước khi nó vượt qua tầm kiểm soát của con người.

Sự kiện còn có sự tham gia của các bậc phụ huynh có con tuổi teen tự tử sau khi gắn bó với chatbot, cùng các phiên thảo luận về quy định an toàn cho trẻ em và hình ảnh khiêu dâm do AI tạo ra mà không có sự đồng thuận.

Tuy nhiên, chính quyền Tổng thống Trump dường như không mấy mặn mà với việc quản lý. Ông Trump tuyên bố trên Truth Social rằng "thứ kiểm soát duy nhất mà AI cần là một tổng thống mạnh mẽ và thông minh (chỉ số IQ cao), và nước Mỹ đã có điều đó".

Điểm mấu chốt cho người Việt Nam

Với Việt Nam — một quốc gia đang đẩy mạnh chuyển đổi số và ngày càng phụ thuộc vào hạ tầng số cho các dịch vụ thiết yếu như điện, nước, ngân hàng — những kịch bản trên không phải câu chuyện viễn tưởng ở đâu xa. Bài học từ Mexico cho thấy kẻ tấn công chỉ cần một mô hình AI sẵn có để tăng tốc và mở rộng quy mô cuộc tấn công.

Điều đáng suy ngẫm là trong lúc các "ông lớn" công nghệ tranh cãi về kịch bản tận thế, những rủi ro AI đã và đang hiện hữu — tấn công mạng, nội dung độc hại, an toàn trẻ em — lại thường bị đẩy xuống hàng thứ yếu. Như nhà khoa học máy tính Timnit Gebru lập luận, chúng ta đang đặt sai câu hỏi, và cuộc tranh luận về tương lai xa vời đang trở thành sự phân tâm khỏi những tổn hại đang xảy ra ngay trước mắt.