Cuộc Thánh chiến Butlerian trong Dune và bài học cảnh tỉnh về tương lai của AI

Warner Bros. vừa mới công bố đoạn giới thiệu hai phút rưỡi cho phần cuối cùng trong bộ ba phim Dune của đạo diễn Denis Villeneuve. Là một người hâm mộ khoa học viễn tưởng đã đọc cuốn tiểu thuyết gốc của Frank Herbert và vô cùng thích thú hai phần đầu tiên, tôi rất mong chờ được thấy Paul Atreides trở thành hoàng đế mới của thiên hà vào tháng 12 tới.

Tuy nhiên, một điểm đặc biệt khiến thế giới của Dune khác biệt hoàn toàn so với các câu chuyện khoa học viễn tưởng khác là sự vắng mặt rõ rệt của trí tuệ nhân tạo (AI) và những robot có ý thức. Chúng ta không thấy những nhân vật như C-3PO trong Star Wars, Data trong Star Trek hay những cỗ máy hủy diệt trong Terminator. Herbert cố ý kìm hãm sự tiến bộ của công nghệ để tập trung vào câu chuyện mang tính con người sâu sắc hơn.

Tại sao vũ trụ Dune lại không có AI?

Thay vì sử dụng AI, vũ trụ Dune sở hữu những con người có khả năng tinh thần vượt trội, như hội chị em Bene Gesserit với khả năng tiên tri, những người dẫn đường của Spacing Guild, hay các cố vấn Mentat như Thufir Hawat của nhà Atreides. Chất gia vị Melange (Spice), chỉ tìm thấy trên hành tinh Arrakis (Dune), là chất kích thích cho phép nâng cao nhận thức này, trở thành nền tảng kinh tế và nguồn gốc xung đột chính của đế chế.

Herbert giải thích sự thiếu hụt này bằng Cuộc Thánh chiến Butlerian (Butlerian Jihad) — một cuộc chiến tranh tôn giáo kéo dài trăm năm nổ ra khoảng 10.000 năm trước các sự kiện trong phim. Kết quả của cuộc xung đột này là việc các "máy móc có tư duy" bị đặt ngoài vòng pháp luật và việc sử dụng chúng bị coi là tội đáng chết. Kinh thánh Công giáo Cam (Orange Catholic Bible), một văn bản tôn giáo được viết sau cuộc Thánh chiến, đã tuyên bố: "Ngươi không nên tạo ra một máy móc có hình hài của tâm trí con người."

AI như một công cụ áp bức

Các bộ phim Terminator mang đến một lời cảnh báo về sự trỗi dậy không kiểm soát của AI: máy móc có thể quyết định rằng nhân loại cần bị tiêu diệt. Mặc dù nỗi sợ hãi về sự diệt vong trước tay những robot suy nghĩ là có cơ sở, nhưng Dune đưa ra một góc nhìn thực tế hơn.

Với sự trỗi dậy của AI, sự xuất hiện của một giai cấp kỹ trị (technocratic class) — những người tạo ra và kiểm soát các máy móc này — đã dẫn đến các cấu trúc áp bức đối với tri thức và nền kinh tế. Cũng có nỗi lo ngại rằng nhân loại trở nên quá phụ thuộc vào máy móc suy nghĩ, từ đó mất đi quyền tự chủ và ý chí tự do.

Chúng ta thực sự có thể thấy sự khởi đầu của giai cấp kỹ trị kiểu Dune trong thế giới hiện đại, được hiện thân bởi các ông lớn công nghệ (Big Tech). Họ đã đổ hàng trăm tỷ USD vào các trung tâm dữ liệu và thúc đẩy mạnh mẽ việc sử dụng không kiềm chế các chatbot như ChatGPT, Copilot và Grok.

Một số nhà lãnh đạo ngành công nghiệp đã hình dung rõ ràng về tương lai này. Sam Altman, CEO của OpenAI, từng tuyên bố táo bạo: "Chúng tôi thấy một tương lai nơi trí thông minh là một tiện ích, giống như điện hoặc nước, và mọi người mua nó từ chúng tôi theo đồng hồ đo." Bất kỳ ai có một chút trí tuệ cũng có thể thấy tại sao điều này có thể trở nên rất tồi tệ.

Khoa học viễn tưởng là tấm gương phản chiếu

Trí tuệ nhân tạo và học máy là những công nghệ tuyệt vời, và không còn nghi ngờ gì nữa, chúng ta nên phát triển chúng để mang lại lợi ích cho nhân loại. Bản thân tôi rất muốn thấy các mạng nơ-ron được huấn luyện tìm ra phương pháp chữa bệnh ung thư hoặc phân tích các giải pháp cho biến đổi khí hậu.

Tuy nhiên, tôi tỏ ra hoài nghi sâu sắc về cách AI hiện đang được các Big Tech thúc đẩy, điều đã dẫn đến những lời bàn tán rộng rãi về một "bong bóng AI".

Chúng ta đã thấy công nghệ gây ra rủi ro cho con người. Bom nguyên tử và hạt nhân làm cho sự hủy diệt lẫn nhau trở nên khả thi. Các chất CFC (chlorofluorocarbon) đã làm hỏng tầng ozone. Và mạng xã hội đã thúc đẩy nhiều hành vi thù ghét con người như thông tin sai lệch và phân cực chính trị.

AI là một trong những kỳ quan công nghệ mà không vốn dĩ có lợi hay có hại. Nhưng cuối cùng, việc chúng ta từ chối nó như trong Dune của Herbert, hay định hình nó thành thứ gì đó gần gũi hơn với Star Trek của Gene Roddenberry, là tùy thuộc vào chúng ta.