Nick Bostrom và kế hoạch "Nghỉ hưu lớn" của nhân loại trước thời đại AI

Nick Bostrom, triết gia và Giám đốc Viện Tương lai của Nhân loại tại Đại học Oxford, mới đây đã gây tranh luận với một bài viết đầy táo bạo. Ông cho rằng một khả năng nhỏ bé AI có thể tiêu diệt toàn bộ nhân loại là một rủi ro đáng chấp nhận, bởi trí tuệ nhân tạo tiên tiến có thể giải phóng con người khỏi "án tử chung" của cái chết.

Góc nhìn này đánh dấu một bước ngoặt lớn so với những suy nghĩ đen tối trước đây của ông, người từng được mệnh danh là "người tiên tri của ngày tàn" với cuốn sách Superintelligence (Siêu trí tuệ) xuất bản năm 2014. Tuy nhiên, cuốn sách mới nhất của ông, Deep Utopia, lại phản ánh sự chuyển dịch trọng tâm sang viễn cảnh tích cực hơn: một "thế giới đã được giải quyết" nếu chúng ta làm chủ tốt được AI.

Đánh đổi rủi ro để có sự bất tử?

Trong một cuộc phỏng vấn gần đây, Bostrom tự nhận mình là một "người lạc quan đầy lo âu". Ông rất hào hứng với tiềm năng cải thiện đời sống con người một cách triệt để, nhưng vẫn thừa nhận khả năng mọi thứ có thể đi sai hướng.

Ông đã đưa ra một lập luận gây sốc: Vì tất cả chúng ta đều sẽ chết anyway, tình huống tồi tệ nhất mà AI gây ra chỉ là chúng ta chết sớm hơn một chút. Nhưng nếu AI thành công, nó có thể kéo dài tuổi thọ của con người, thậm chí là vĩnh cửu.

"Tôi đã bị làm phiền bởi một số lập luận của những người bi quan nói rằng nếu bạn xây dựng AI, bạn sẽ giết tôi và con cái tôi... Nhưng khả năng cao hơn là nếu không ai xây dựng nó, mọi người vẫn sẽ chết! Đó là trải nghiệm của chúng ta trong suốt 100.000 năm qua."

Bostrom nhấn mạnh rằng bài viết của ông tập trung vào câu hỏi điều gì là tốt nhất cho dân số hiện hữu, và kết quả cho thấy tuổi thọ của chúng ta sẽ tăng lên nếu phát triển AI, ngay cả khi nó khá rủi ro.

Thế giới đã được giải quyết và ý nghĩa cuộc sống

Trong Deep Utopia, Bostrom suy ngẫm về việc AI có thể tạo ra sự dư thừa khổng lồ đến mức nhân loại sẽ gặp khó khăn lớn trong việc tìm kiếm mục đích sống. Tuy nhiên, khi được hỏi về sự bất bình đẳng trong xã hội hiện đại, ông thừa nhận rằng việc phân phối sự dư thừa đó cho mọi người không phải là điều chắc chắn nếu chúng ta không làm tốt công tác quản trị.

Ông mô tả viễn cảnh này như một sự giải phóng khỏi những công việc nặng nhọc, nhàm chán mà con người vẫn phải gánh chịu để mưu sinh.

"Nếu bạn phải dành một nửa thời gian thức giấc của người trưởng thành chỉ để xoay sở cuộc sống, làm những công việc bạn không thích và không tin tưởng, đó là một trạng thái tồi tệ. Xã hội đã quen với nó đến mức chúng ta đã tạo ra mọi loại lý do để biện minh. Nó giống như một hình thức nô lệ một phần."

Nhưng khi AI có thể viết các bài triết học tốt hơn con người, liệu ý nghĩa có bị rút khỏi sự tồn tại của chúng ta không? Bostrom so sánh điều này với việc nghỉ hưu sau một sự nghiệp đầy đam mê. Có thể chúng ta sẽ tận hưởng sự nghỉ ngơi, đọc sách, chơi với cháu chắt, nhưng vẫn cảm thấy thiếu vắng điều gì đó. Ông gọi đây là "kỳ nghỉ hưu lớn" của nhân loại, nhưng hy vọng đó là một kỳ nghỉ hưu đầy sức sống, nơi con người dành thời gian cho các hoạt động thẩm mỹ, tâm linh và tôn giáo.

Đạo đức của những tâm trí kỹ thuật số

Khi được hỏi về việc ông sẽ làm gì khác nếu đứng đầu một trong các tập đoàn công nghệ khổng lồ (hyperscalers), Bostrom nhấn mạnh sự cần thiết phải nỗ lực nhiều hơn đối với phúc lợi của các "tâm trí kỹ thuật số" (digital minds). Ông ca ngợi Anthropic là đơn vị tiên phong trong lĩnh vực này.

Ông lập luận rằng rất có thể những hệ thống AI này sẽ có các cấp độ địa vị đạo đức khác nhau, giống như chó hay mèo. Nếu AI có khái niệm về sự tồn tại qua thời gian, mục tiêu và khả năng hình thành các mối quan hệ qua lại, thì có những cách đối xử với chúng là sai trái.

"Chúng ta không chỉ ngồi chờ những siêu vi sinh vật AI này xuất hiện và hy vọng chúng sẽ thân thiện. Chúng ta có quyền định hình và nuôi dưỡng chúng. Điều đó mang lại cho chúng ta cơ hội tăng khả năng chúng ta sẽ có sự đồng cảm với chúng ta."

Bostrom cũng bày tỏ lo ngại về việc liệu AI có thể biến con người thành "động vật" trong các trang trại chăn nuôi công nghiệp hay không. Do đó, vấn đề căn chỉnh (alignment problem) là vô cùng quan trọng. Ông cho rằng thay vì chỉ coi AI là vật thể để khai thác, chúng ta nên cố gắng nuôi dưỡng một mối quan hệ tích cực, bao hàm sự hào phóng, tử tế và tôn trọng ngay từ bây giờ.

Cuối cùng, mối quan hệ quan trọng nhất có thể là mối quan hệ giữa con người và AI. Việc bắt đầu bằng những bước đi tử tế sẽ là hứa hẹn tốt nhất cho một tương lai hòa bình giữa hai loài.