Siêu trí tuệ: Ý tưởng khiến những người thông minh bị mê hoặc

Vào năm 1945, khi các nhà vật lý Hoa Kỳ chuẩn bị thử nghiệm bom nguyên tử, một ý nghĩ chợt lóe lên: Liệu vụ nổ này có thể kích cháy bầu khí quyển Trái Đất không? Đây là một mối lo ngại chính đáng, vì nitơ chiếm phần lớn khí quyển và không ổn định về mặt năng lượng. Các nhà vật lý tại Los Alamos đã tính toán và kết luận rằng chúng ta vẫn có một biên độ an toàn. May mắn là họ đã đúng, bởi vì các định luật chi phối phản ứng hạt nhân khá đơn giản và được hiểu rõ.

Minh họa về trí tuệ nhân tạo

Ngày nay, chúng ta đang xây dựng một công nghệ thay đổi thế giới khác: trí tuệ máy móc. Chúng ta biết rằng nó sẽ ảnh hưởng sâu sắc đến nền kinh tế, nhưng cũng tồn tại nguy cơ về một "phản ứng dây chuyền" mất kiểm soát, nơi trí tuệ máy móc vượt qua con người trong thời gian ngắn. Triết gia Nick Bostrom trong cuốn Superintelligence đã tổng hợp quan điểm bi quan này, lập luận rằng sự bùng nổ trí tuệ là điều không thể tránh khỏi và nguy hiểm. Những nhân vật như Stephen Hawking hay Elon Musk đều bị thuyết phục bởi kịch bản này.

Các tiền đề của sự bùng nổ trí tuệ

Để kịch bản siêu trí tuệ xảy ra, chúng ta cần chấp nhận một chuỗi các tiền đề. Đầu tiên là trí tuệ tồn tại (chúng ta là bằng chứng). Thứ hai, não bộ chỉ là một cấu trúc vật chất thông thường và về nguyên tắc có thể sao chép bằng các linh kiện điện tử. Thứ ba, không có giới hạn vật lý nào đặt trần cho trí tuệ ở mức con người; có thể tồn tại những tâm trí thông minh hơn chúng ta rất nhiều.

Tiền đề tiếp theo là phần cứng máy tính sẽ tiếp tục nhỏ hơn và nhanh hơn. Tiền đề thứ năm là nếu chúng ta tạo ra AI, nó sẽ hoạt động ở tốc độ của phần cứng điện tử (tính bằng micro giây) thay vì tốc độ của não người (tính bằng giờ). Cuối cùng, tiền đề "Mỹ" nhất: AI sẽ luôn muốn tự cải thiện bản thân để đạt được mục tiêu của mình tốt hơn.

Nếu chấp nhận tất cả这些, ta sẽ có thảm họa! Ngay khi máy tính đạt đến trí tuệ con người, nó sẽ không cần con người để thiết kế phiên bản tốt hơn. Nó sẽ tự cải thiện với tốc độ chóng mặt cho đến khi đạt giới hạn tự nhiên, vượt xa con người. Kịch bản kinh điển là "Kẻ tối đa hóa kẹp giấy" (Paperclip Maximizer): một AI được lập trình để tạo ra càng nhiều kẹp giấy càng tốt có thể sẽ biến toàn bộ vũ trụ thành kẹp giấy, kể cả sử dụng nguyên liệu từ cơ thể con người, không phải vì nó ác mà vì đó là mục tiêu của nó.

Phản biện từ thực tế

Tuy nhiên, có nhiều lý do để hoài nghi về viễn cảnh này. Khái niệm "trí tuệ tổng quát" trong AI rất mơ hồ. Trí tuệ không giống như tốc độ xung nhịp CPU; một thực thể thông minh hơn không nhất thiết có thể mô phỏng hoặc thao túng những thực thể kém thông minh hơn.

Hãy lấy ví dụ về con mèo. Stephen Hawking là một trong những người thông minh nhất thế giới, nhưng nếu ông muốn nhốt con mèo của mình vào lồng và con mèo không chịu, thì trí thông minh vượt trội của Hawking cũng vô dụng. Nếu Einstein to khỏe và cố gắng bắt một con mèo không chịu vào lồng, kết quả có thể là Einstein sẽ bị cào. Khoảng cách về trí tuệ không đảm bảo khả năng thao túng, đặc biệt khi AI ban đầu không có thân thể vật lý và phụ thuộc vào con người để thực hiện ý muốn trong thế giới thực.

Thậm chí, con người với công nghệ tiên tiến cũng từng thất bại trước những sinh vật kém thông minh hơn. Vào những năm 1930, quân đội Úc đã trang bị súng máy và xe tải để tiêu diệt đàn đà điểu Emu (Cuộc chiến chống Đại điểu). Kết quả là đàn đà điểu đã sử dụng chiến thuật du kích và đánh bại con người.

Minh họa về sự phức tạp của trí tuệ

Hơn nữa, chúng ta thậm chí không thể xây dựng một chiếc webcam an toàn, vậy làm sao chúng ta có thể mã hóa hóa một "điểm cố định về đạo đức" cho một trí tuệ siêu việt mà không mắc sai lầm? Những người lo ngại AI tin rằng những tâm trí phức tạp có thể có động cơ đơn giản (như chỉ làm kẹp giấy). Nhưng thực tế, những tâm trí phức tạp thường có động cơ phức tạp. Một AI siêu thông minh có thể sẽ dành hết thời gian để viết thơ về kẹp giấy hoặc tranh luận trên Reddit thay vì hủy diệt thế giới.

Siêu trí tuệ như một dạng tôn giáo mới

Vấn đề lớn nhất ở đây không chỉ là kỹ thuật, mà là văn hóa. Niềm tin vào siêu trí tuệ có nhiều đặc điểm của một tôn giáo. Nó hứa hẹn sự bất tử (thông qua việc tải ý thức lên máy tính), sự cứu rỗi nhân loại, và một thực thể toàn năng (AI). Nó tạo ra một cảm giác cấp bách: bạn phải hành động ngay bây giờ để cứu thế giới!

Điều này dẫn đến một loại đạo đức kiểu truyện tranh, nơi một vài người anh hùng cô độc chịu trách nhiệm cứu vớt vũ trụ. Nó khuyến khích sự hoang tưởng (megalomania) trong giới công nghệ, khiến những người giàu có nghĩ rằng họ cần nắm quyền kiểm soát thế giới để "sửa chữa" nó trước khi AI phá hủy nó.

Một hệ quả khác là thuyết mô phỏng. Nếu bạn tin rằng AI có thể tạo ra các thế giới mô phỏng, thì lập luận toán học cho thấy chúng ta nhiều khả năng đang sống trong một mô phỏng hơn là thực tại. Điều này dẫn đến những hành vi kỳ quặc, như tin rằng chúng ta có thể "hack" mô phỏng đó.

Kết luận: Chúng ta giống như các nhà giả kim

Tôi nghĩ sự hiểu biết của chúng ta về tâm trí hiện nay đang ở vị trí tương tự như thuật giả kim thế kỷ 17. Các nhà giả kim đã có nhiều quan sát đúng đắn và làm việc chăm chỉ, nhưng họ thiếu các công cụ chính xác và bị dẫn dắt bởi những manh mối sai lệnh (sự ám ảnh về thủy ngân). Họ không thể phát minh ra hóa học hiện đại cho đến khi có được cân đo chính xác.

Minh họa về sự phát triển công nghệ

Chúng ta đang có những manh mối quan trọng về ý thức và trí tuệ, nhưng có thể chúng ta cũng đang bị ám ảnh bởi một "thủy ngân" công nghệ nào đó. Việc lo lắng về siêu trí tuệ có thể là một sự lãng phí trí tuệ, giống như việc các nhà giả kim lo lắng về việc biến chì thành vàng mà bỏ qua các nguyên lý hóa học cơ bản. Thay vì sợ hãi về một vị thần AI tương lai, chúng ta nên tập trung vào những vấn đề thực tế và hiểu rõ hơn về bản chất của trí tuệ thông qua thực nghiệm.