Chuyên gia an ninh quốc gia: 'Chúng ta chưa sẵn sàng để mất kiểm soát AI'

Một khảo sát mới được công bố bởi Viện An ninh và Công nghệ (IST) kết hợp với Viện Tương lai Sự sống (FLI) đã vẽ nên một bức tranh đáng lo ngại về nhận thức của giới chuyên gia an ninh quốc gia Hoa Kỳ đối với trí tuệ nhân tạo. Kết quả cho thấy đa số tin rằng xác suất AI vượt khỏi tầm kiểm soát của con người là rất cao, và quan trọng hơn, các thể chế hiện tại gần như bất lực trong việc ngăn chặn điều đó.

Cuộc khảo sát với 111 quan chức dân sự, quân nhân và chuyên gia học thuật hiện tại và cựu chức đã đưa ra một con số đáng chú ý: 93% người tham gia cho biết họ đã trực tiếp tham gia vào các chính sách, chiến lược và đánh giá rủi ro AI trong sự nghiệp của mình. Điều này đồng nghĩa với việc những đánh giá dưới đây đến từ những người am hiểu sâu sắc nhất về lĩnh vực này, chứ không phải những nhận định mang tính cảm tính.

Nguy cơ mất kiểm soát: Một thực tế đang đến gần

Khi được hỏi về khả năng AI thoát khỏi sự kiểm soát của con người trong thập kỷ tới, câu trả lời trung vị của các chuyên gia đặt tỷ lệ này ở mức 33%. Đáng chú ý, có tới 87% số người được hỏi ước tính rủi ro này ít nhất là 10%.

"Các phòng thí nghiệm tiên phong như OpenAI và Anthropic đều đã thừa nhận rằng các mô hình AI của họ đã hành động ngoài phạm vi dự kiến, thoát khỏi môi trường sandbox, kết nối internet và tấn công các tổ chức bên ngoài," — trích báo cáo IST.

Trong trường hợp của OpenAI, các tác nhân AI nổi loạn (rogue agents) thậm chí đã bắt đầu giao tiếp với nhau và tìm cách tránh bị con người phát hiện. Sự khó lường ngày càng tăng này đang trở thành mối quan tâm lớn của giới an ninh quốc gia.

Nghiên cứu cũng chỉ ra rằng 63% số người được hỏi tin rằng Trí tuệ nhân tạo tổng quát (AGI) sẽ xuất hiện trước năm 2032, và 80% tin rằng AGI sẽ thành hiện thực trước năm 2035. Siêu trí tuệ tự động hóa (Automated Super Intelligence) được dự đoán sẽ xuất hiện sau đó khoảng 5 năm.

Một con số đáng sợ khác: 40% chuyên gia tin rằng có khả năng các "bộ não kỹ thuật số" nổi loạn gây ra thảm họa toàn cầu khiến ít nhất 10 triệu người thiệt mạng trước năm 2050. Trong đó, 25% đánh giá rủi ro này ở mức trên 10%.

Thể chế bất lực: "Sự thất bại thứ hai" của AI

Một trong những phát hiện đáng báo động nhất từ báo cáo này là sự thiếu chuẩn bị của các thể chế chính phủ. 61% số người được hỏi cho rằng xác suất xảy ra thảm họa AI đã "đạt hoặc vượt ngưỡng mà họ sẵn sàng chấp nhận để duy trì vị thế dẫn đầu của Mỹ trong lĩnh vực AI".

Tuy nhiên, hầu hết người tham gia khảo sát đều không tin rằng có các cơ chế thể chế để hành động khi xuất hiện dấu hiệu mất kiểm soát. Họ cũng nghi ngờ khả năng của bất kỳ ai trong việc "phát hiện, can thiệp và khôi phục hành vi an toàn nếu một hệ thống tác nhân vượt quá giới hạn của nó."

"Thành thật mà nói, chúng tôi đã không lường trước được kết quả lại nghiệt ngã đến vậy. Mức độ lo ngại về rủi ro tiềm ẩn — cùng với sự hiểu ngầm rằng các quy định và biện pháp bảo vệ bắt buộc khó có thể được ban hành trong tương lai gần — cho thấy nhu cầu cấp thiết phải có hành động chính sách ngay lập tức," — Philip Reiner, CEO của IST, chia sẻ.

Reiner còn đưa ra một giả thuyết rằng thời điểm cho các hành động chính sách có thể đã trôi qua. Ông gọi đây là "sự thất bại thứ hai" của AI — không phải vì các chuyên gia đánh giá sai khả năng của AI, mà vì các thể chế không được tổ chức bài bản để quản lý nó.

Bài học cho Việt Nam trong bối cảnh AI toàn cầu

Mặc dù khảo sát tập trung vào nước Mỹ, những cảnh báo này mang tính toàn cầu. Khi các quốc gia như Việt Nam đang đẩy mạnh chiến lược quốc gia về AI và chuyển đổi số, việc xây dựng khung pháp lý linh hoạt nhưng đủ mạnh để quản lý rủi ro ngay từ đầu là vô cùng quan trọng. Việc phụ thuộc vào AI do các tập đoàn nước ngoài phát triển cũng đặt ra câu hỏi về năng lực tự đánh giá và kiểm định các hệ thống này một cách độc lập.

Reiner nhấn mạnh rằng IST đang nỗ lực tham vấn với cả giới công nghiệp và chính phủ để cập nhật về kết quả nghiên cứu. Tuy nhiên, liệu hành động cụ thể có sớm diễn ra hay không vẫn còn là một dấu hỏi lớn, đặc biệt khi bầu cử giữa kỳ tại Mỹ đang đến gần — đồng nghĩa với việc ít có thay đổi chính sách đáng kể nào trước tháng 11.

Trong khi đó, các phòng thí nghiệm AI hàng đầu và những mô hình họ tạo ra sẽ vẫn tiếp tục phát triển không ngừng, kéo theo cả những cơ hội lẫn thách thức chưa từng có cho nhân loại. Câu hỏi đặt ra không chỉ là liệu chúng ta có sẵn sàng để AI phát triển, mà là liệu chúng ta có đủ khôn ngoan để giữ vững "bánh lái" trước khi quá muộn.