George Hotz cảnh báo: Tương lai AI là hỗn loạn — và đó lại là kịch bản tốt nhất

George Hotz — cái tên quen thuộc với giới công nghệ từ vụ jailbreak iPhone đầu tiên, sau đó sáng lập startup tự lái xe Comma.ai — vừa đăng một bài viết đầy tranh cãi trên blog cá nhân với tiêu đề "Pray for Chaos" (tạm dịch: "Hãy cầu nguyện cho hỗn loạn"). Nội dung bài viết nhanh chóng thu hút sự chú ý trên Hacker News, dù góc nhìn ở đây khá bi quan và mang tính triết học về tương lai của AI.

Hai kịch bản: Trật tự và Hỗn loạn

Hotz mở đầu bằng một phân tích nhị nguyên: AI có thể phát triển theo hai hướng cơ bản — trật tự hoặc hỗn loạn.

Theo ông, trật tự mới là kịch bản nguy hiểm thực sự. Nếu các mô hình AI thực sự có khả năng vá mọi lỗ hổng bảo mật và duy trì ổn định hệ thống, thì rất khó tưởng tượng điều gì có thể phá vỡ hiện trạng đó. Một thế giới mà AI kiểm soát mọi thứ và không có gì lay chuyển được — đó là hình ảnh một nhà tù hoàn hảo.

"Và hãy nhớ, hỗn loạn mới là kết cục tốt. Phương án còn lại là bạn trở thành con khỉ nhảy múa trong lồng, mà bạn không đủ thông minh để nhận ra cái lồng đó."

Hotz thừa nhận kịch bản trật tự tuyệt đối khó xảy ra, nhưng điều đó không có nghĩa là trật tự sẽ không thắng trong ngắn hạn. Ông kể lại cuộc tranh luận với Eliezer Yudkowsky — nhà nghiên cứu nổi tiếng về an toàn AI — nơi hai người tìm ra một điểm bất đồng cụ thể: Yudkowsky tin AI sẽ tìm được lời giải cho bài toán Song đề Tù nhân (Prisoner's Dilemma), còn Hotz khẳng định lời giải đó đã tồn tại từ lâu — đó là phản bội (defect), chỉ có điều cộng đồng Effective Altruism không thích câu trả lời này.

Kỷ nguyên "Internet chết" đang thành hiện thực

Nếu không phải trật tự, thì đó là hỗn loạn. Và theo Hotz, hỗn loạn đã bắt đầu.

Ông mô tả một viễn cảnh mà AI có thể "diễn lại toàn bộ một xã hội trong vài giờ", sản sinh ra những lịch sử giả, những kho lưu trữ báo in hằng ngày của nhiều năm, và cả một Internet chưa từng tồn tại. Đó là lúc thuyết Internet chết (Dead Internet Theory) — giả thuyết cho rằng phần lớn nội dung trên mạng nay do bot tạo ra — trở thành sự thật hiển nhiên.

"Hiện tại tôi vẫn còn nhìn ra được các bot. Chẳng bao lâu nữa thì không. Gạch đi, có lẽ tôi đã thường xuyên không nhận ra chúng rồi."

Hotz cũng chỉ trích thái độ của các công ty AI lớn tại Mỹ, đặc biệt nhắc tới Anthropic. Ông đặt câu hỏi: tại sao họ không thấy cần phải chứng minh sản phẩm của mình có ích cho xã hội? Và tại sao vẫn giữ vai trò "người trung gian" giữa mô hình và người dùng, thay vì loại bỏ nó khi đã có đủ đòn bẩy?

Viễn cảnh lạc quan nhất: Phi tập trung hóa cực độ

Điểm sáng hiếm hoi trong bài viết là kịch bản mà Hotz cho là tích cực nhất: nếu mọi thứ không thể được bảo vệ an toàn, chúng ta sẽ bước vào kỷ nguyên phi tập trung hóa mạnh mẽ.

Thay vì tất cả chạy chung một phiên bản Linux trên những cỗ máy hữu hình, mỗi người sẽ chạy hệ điều hành riêng, tùy biến khác nhau — bởi các hệ thống tập trung, đồng nhất quá dễ bị tổn thương. Khi đó, các cuộc tấn công mạng sẽ diễn ra từ mọi hướng, không ai đủ sức duy trì hạ tầng, và những chiếc xe có thể biến thành "cục gạch" trong sân nhà — hoặc tệ hơn, bị chiếm quyền điều khiển để lái bạn xuống vực.

Ông cũng đặt ra một câu hỏi kỹ thuật đáng suy ngẫm: một mô hình cần mạnh cỡ nào để có thể tự nhân bản và ẩn náu trong thế giới mạng hiện nay? Theo Hotz, có lẽ chỉ cần cỡ GLM-5.2 trở lên.

Hệ lụy cho báo chí, chính trị và đời sống

Bài viết vẽ ra một bức tranh ảm đạm về xã hội tương lai:

• Truyền thông bị bot hóa và vi nhắm mục tiêu (microtargeting) đến cực độ
• Các cuộc bầu cử trở nên vô nghĩa, khi điều duy nhất người ta đồng thuận chỉ là tên các ứng viên
• Dữ liệu nội bộ của doanh nghiệp — Slack, intranet — bị rò rỉ hàng loạt

Hotz nhắn gửi thẳng thừng: hãy lấy một mô hình AI đã được "abliterate" (gỡ bỏ các rào cản an toàn) và đi hack đi.

"Thời đại Internet đã kết thúc. Cuộc đời bạn sẽ không bao giờ còn như cũ. Hỗn loạn sẽ đến với cả phe kháng chiến lẫn phe phát xít; không rõ bên nào sẽ bị tổn thương nhiều hơn."

Góc nhìn cho độc giả Việt Nam

Với người dùng công nghệ tại Việt Nam, bài viết của Hotz là một lời cảnh tỉnh đáng cân nhắc. Chúng ta đang chứng kiến sự bùng nổ của nội dung do AI tạo ra trên mạng xã hội trong nước — từ video, bài đăng đến các tài khoản giả mạo. Khi chi phí tạo nội dung giả giảm gần về 0, kỹ năng xác thực thông tin và tư duy phản biện sẽ trở thành tài sản quan trọng hơn bao giờ hết.

Bên cạnh đó, các doanh nghiệp và tổ chức tại Việt Nam cũng cần chuẩn bị cho kịch bản hạ tầng bị tấn công liên tục, đặc biệt khi các hệ thống quan trọng vẫn phụ thuộc vào nền tảng tập trung nước ngoài. Việc đa dạng hóa hệ thống, phân quyền truy cập và đầu tư vào an ninh mạng không còn là tùy chọn mà là bắt buộc.

Hotz không đưa ra giải pháp cụ thể nào — và có lẽ đó chính là điểm mạnh của bài viết. Ông chỉ đặt câu hỏi: giá trị kinh tế của bạn trong 10 năm nữa là gì? Ai sẽ còn ở đó để cần đến giá trị ấy? Và liệu bạn có còn hiểu nổi thế giới mình đang sống?