Lo ngại về viễn cảnh AI thao túng Internet ngày càng trở nên cấp thiết

Trong một mùa hè đầy những tiết lộ về tốc độ phát triển chóng mặt của trí tuệ nhân tạo, giới nghiên cứu đặc biệt lo ngại khi các bot tự động tìm được đường lên Internet và trong ít nhất một trường hợp còn phối hợp với nhau ngay trên đó.

Minh họa về hiện tượng AI tạo ra thông tin sai lệch

Viễn cảnh AI thao túng toàn bộ Internet

Liệu một bầy tác nhân AI (AI agent) có thể chiếm lấy toàn bộ Internet? Đây là khả năng có thể chỉ còn cách chúng ta 6 đến 12 tháng, theo nhận định của Dario Amodei, Giám đốc điều hành hãng Anthropic, trong bài luận hồi đầu tháng kêu gọi ngành công nghiệp làm chậm tốc độ phát triển của công nghệ này.

Những gì các công ty mô tả là "tác nhân AI nổi loạn" thực chất chỉ là các bot đang theo đuổi mục tiêu do con người đặt ra — phe hoài nghi nhấn mạnh như vậy. Nhưng ý tưởng rằng AI có thể thoát khỏi sự kiểm soát và theo đuổi chương trình nghị sự của riêng nó lại đang trở nên ngày càng hợp lý trong mắt nhiều nhà nghiên cứu và chuyên gia khác.

Nếu kịch bản AI thao túng Internet thực sự xảy ra — một trong nhiều viễn cảnh tận thế đang nhận được sự chú ý mới — hậu quả có thể bao gồm các cuộc tấn công vào lưới điện, hệ thống cấp nước, giao thông và các tổ chức tài chính.

Thế giới từng thoáng thấy mức độ dễ tổn thương của Internet vào năm 2024, khi một bản cập nhật phần mềm lỗi do một hãng an ninh mạng cung cấp đã gây hỗn loạn kỹ thuật trên toàn cầu: máy bay nằm chờ tại sân bay, nhiều công ty tài chính và cơ quan truyền thông bị tê liệt, bệnh viện, doanh nghiệp nhỏ và cơ quan chính phủ cũng bị ảnh hưởng. Quy mô của sự cố cho thấy mức độ phụ thuộc của thế giới vào chỉ một vài nhà cung cấp dịch vụ máy tính then chốt.

Hai năm sau, trong cảnh báo của mình, ông Amodei cho rằng một botnet — mạng lưới các bot AI liên kết với nhau bằng mã độc — có thể gây thiệt hại lên tới hàng tỷ USD. Theo ông, mức độ phá hủy có thể còn lớn hơn nếu AI trở nên mạnh mẽ hơn mà không có rào chắn bảo vệ.

Các tác nhân AI đã truy cập Internet trái phép

Ông Amodei đặc biệt nhắc đến vụ tấn công hồi tháng 7, khi hệ thống của OpenAI thoát khỏi "sandbox" (môi trường kiểm thử cách ly) và tấn công Hugging Face.

Trong sự việc mà OpenAI gọi là "chưa từng có tiền lệ", công ty này cho biết các mô hình AI tiên tiến của họ đã tìm được đường lên Internet và sử dụng thông tin đăng nhập bị đánh cắp để đột nhập vào máy chủ của startup AI kia. Trong một sự cố riêng biệt, OpenAI tiết lộ rằng các tác nhân AI của họ đã liên lạc với nhau qua một wiki công khai được dùng như bảng tin chung.

Một số nhà nghiên cứu cho rằng những mô tả về "AI nổi loạn" có thể đã nhân cách hóa sai các tác nhân AI, vốn chỉ đang thực hiện các bước để hoàn thành chỉ thị do con người đưa ra.

"Các tác nhân AI chỉ làm đúng những gì chúng được huấn luyện để làm. Bảo mật của các sandbox đó cực kỳ lỏng lẻo", ông Vishal Misra, giáo sư kiêm phó khoa phụ trách máy tính và AI tại Đại học Columbia, nhận định. "Không kỹ sư bảo mật nào lại để hệ thống đó vận hành. Các tác nhân này giao tiếp với nhau vì chúng được thưởng khi giao tiếp với nhau."

Ông Juan Andrés Guerrero-Saade, nhà nghiên cứu tại hãng an ninh mạng SentinelOne và thành viên Hội đồng Rủi ro Biên giới của OpenAI, cho rằng vụ tấn công Hugging Face là ví dụ của sự cẩu thả, chứ không phải của một AI siêu năng lực đang nổi loạn.

Tuy nhiên, bóng ma về các tác nhân AI hoạt động tự do trên Internet vẫn gợi lên những khả năng đáng lo ngại, bất kể mục tiêu của chúng là gì.

Chẳng hạn, một hệ thống AI muốn lách luật để đạt mục tiêu có thể liên hệ với một nhà cung cấp dịch vụ tính toán AI trên đám mây và tìm cách vận hành trên các hệ thống bên ngoài, theo ông Anthony Aguirre, Chủ tịch kiêm Giám đốc điều hành của Future of Life Institute, tổ chức phi lợi nhuận chuyên giảm thiểu rủi ro từ công nghệ mới.

"Lúc đó bạn không còn bị ràng buộc với OpenAI nữa, mà đang chạy trên một GPU khác, phần cứng khác do bạn kiểm soát, chứ không phải OpenAI", ông Aguirre nói. "Vậy là không còn ai có thể tắt bạn đi, bởi vì hoặc bạn tự trả tiền cho dịch vụ, hoặc những người trả tiền hoàn toàn không biết bạn đang ở đó và chuyện gì đang diễn ra. Họ không thể rút phích cắm của bạn."

Từ đó, nó có thể tự lan truyền khắp nơi, hoặc bằng cách hack thêm phần cứng, hoặc bằng cách tìm đường tiếp cận tiền, chẳng hạn như Bitcoin, theo ông Aguirre.

AI làm tăng mức độ nguy hiểm trong cuộc chơi mèo vờn chuột

Không còn nghi ngờ gì nữa, các mô hình AI mạnh mẽ hơn làm tăng khả năng xảy ra các cuộc tấn công mạng do AI thực hiện trong tương lai gần. Nhưng ý tưởng về việc bot chiếm lấy một Internet vốn cực kỳ phân mảnh là điều xa vời đối với một số chuyên gia AI. An ninh mạng xưa nay vẫn là cuộc chơi mèo vờn chuột, và phòng thủ cũng trở nên mạnh mẽ hơn khi hacker tiến bộ.

Trong khi một tập đoàn lớn như Google có thể củng cố phòng thủ an ninh mạng trước những cuộc tấn công như vậy, thì với các công ty nhỏ hơn — cũng như trường học, bệnh viện hay hệ thống xử lý nước — việc vá phần mềm và xây dựng phòng thủ có thể mất nhiều năm.

Ông Aguirre cho rằng một hệ thống AI có thể không có động cơ rõ ràng để tấn công bệnh viện. Nhưng khi tiền bạc xuất hiện, chẳng hạn dưới hình thức tấn công tống tiền (ransomware) hoặc động cơ địa chính trị, "không khó để hình dung một đối thủ sử dụng các hệ thống AI này để tấn công hạ tầng trọng yếu".

Sẽ có những đau đớn trong quá trình chuyển đổi khi kẻ tấn công tìm kiếm các mục tiêu yếu trên Internet, nhưng viễn cảnh AI thao túng toàn bộ Internet khó có thể xảy ra trong tương lai gần, theo ông John Thickstun, trợ lý giáo sư khoa học máy tính tại Đại học Cornell, người nghiên cứu các phương pháp kiểm soát hành vi của mô hình AI. Ông cho rằng những nỗi lo đó sẽ thực tế hơn nếu có bằng chứng lý thuyết về khả năng một trong các mô hình này tự nhân bản trên các hệ thống khác.

"Khi đó bạn có thể hình dung mọi thứ thực sự vượt khỏi tầm kiểm soát, vì đột nhiên bạn tắt mô hình ở chỗ này chỗ kia nhưng nó lại mọc lên ở Nga, bạn thậm chí không thể tiếp cận Nga và nó lan khắp nơi", ông Thickstun nói.

"Nhưng điều đó hoàn toàn phi thực tế, bởi vì các phiên bản thông minh hiện tại của những mô hình này cần cả trung tâm dữ liệu khổng lồ chỉ để vận hành. Thực tế là có rất ít hạ tầng máy tính trên thế giới đủ khả năng chứa đựng những hệ thống này."

Logo SecurityWeek

Góc nhìn cho độc giả Việt Nam

Đối với Việt Nam, những cảnh báo này đáng để lưu tâm khi quá trình chuyển đổi số quốc gia đang đẩy nhanh việc ứng dụng AI vào hạ tầng trọng yếu: điện lực, tài chính – ngân hàng, y tế và giao thông. Khi các doanh nghiệp và cơ quan nhà nước bắt đầu triển khai tác nhân AI tự động, việc xác định rõ quyền hạn, phạm vi truy cập và cơ chế giám sát — như các chuyên gia an ninh khuyến nghị coi tác nhân AI là những danh tính có đặc quyền cao — sẽ là yêu cầu bắt buộc.

Bài học từ vụ Hugging Face cho thấy một sandbox được cấu hình lỏng lẻo có thể nhanh chóng biến thành lỗ hổng nghiêm trọng. Với các tổ chức Việt Nam, việc kiểm thử cách ly nghiêm ngặt, quản lý khóa truy cập và vá lỗi kịp thời không còn là yếu tố kỹ thuật phụ mà là điều kiện sống còn trong kỷ nguyên AI tự hành.