"Cược của Pascal" dành cho những người hoảng loạn về AI: Chúng ta đang bị biến thành "kẹp giấy" ngay bây giờ

Để tránh bất kỳ accusations nào về việc tranh luận thiếu thiện chí, tôi xin khởi đầu bằng lời thú nhận này: Tôi không cho rằng AI thực sự có trí thông minh; và tôi cũng không nghĩ rằng các kỹ thuật thống kê hiện tại – dù ấn tượng đến đâu – sẽ dẫn đến trí thông minh thực sự.

Tôi cho rằng việc lo lắng về việc chúng ta sẽ làm gì nếu AI trở nên thông minh là tối đa là một sự phân tâm, và tối thiểu là một chiêu trò marketing hoài nghi.

Mô tả hình ảnh minh họa bài viết

"Cược của Pascal" trong kỷ nguyên AI

Tuy nhiên, trong số những người tin vào "ngày tàn của AI" (AI doomers), tôi nhận thấy những người có cùng chí hướng. Tôi cũng lo lắng về các công nghệ được kiểm soát bởi các tập đoàn đã trở nên mạnh đến mức có thể phớt lờ các quy định. Tôi lo lắng về cách những công nghệ này được sử dụng chống lại chúng ta, và việc các công ty sản xuất chúng đang hợp nhất với các nhà nước độc tài để tạo thành những cơn ác mộng toàn trị.

Tôi chỉ đơn thuần không nghĩ rằng chúng ta cần AI để làm những điều đó. Tôi nghĩ chúng ta đã nên lo lắng về những vấn đề này từ bây giờ.

Mặc dù tôi đã tuyên bố (và nói trên sân khấu) rằng tôi không lo lắng về việc AI sẽ trở nên siêu việt và gây ra thảm họa, nhưng tôi rất lo lắng về AI. Tôi sợ rằng một nhân viên bán hàng AI thanh lý sẽ thuyết phục sếp của bạn sa thải bạn và thay thế bằng một AI không thể làm được công việc của bạn.

Tôi lo ngại rằng bảy công ty chiếm 35% chỉ số S&P 500 đang hướng tới sự phá sản, ngay khi ai đó buộc họ phải ngừng việc luân chuyển tờ nợ 100 tỷ USD giống nhau trong khi giả vờ rằng tiền đó đang nằm trong tài khoản ngân hàng của họ cùng một lúc. Tôi lo lắng rằng khi điều đó xảy ra, các chatbot thực hiện công việc tồi của những người bị sa thải sẽ biến mất, và không có gì cũng như không ai thực hiện những công việc đó nữa.

Robot và Pascal

Ngay tại thời điểm này, nhân loại đã đốt hơn 1.400 tỷ USD để hiện thực hóa những dự đoán tận thế này, và nó vẫn顽固ly không thành hiện thực. Chúng ta cần chi thêm bao nhiêu tiền nữa để chắc chắn rằng "thần linh" không đang ẩn nấp trong chương trình đoán chữ này? Sam Altman nói rằng sẽ cần thêm 2-3 nghìn tỷ USD nữa – tương đương sáu tháng chi tiêu liên bang của Mỹ.

Tôi lo lắng rằng AI giống như loại amiang chúng ta đang chất đống vào các bức tường của nền văn minh, và con cháu của chúng ta sẽ phải đào nó ra trong nhiều thế hệ.

Những "sinh vật nhân tạo" thực sự

Nhưng khi thảo luận tại Montreal, tôi nhận ra có thể có một điểm chung giữa tôi và các nhà nghiên cứu AI lo ngại về nguy cơ tận thế. Sau cùng, khi ai đó bắt đầu nói về "công nghệ nhân đạo" tôn trọng quyền riêng tư và hoạt động vì con người thay vì vì ông chủ, tôi chú ý lắng nghe. Bổ sung thêm cụm từ "hàng hóa công số quốc tế" và bạn có được toàn bộ sự chú ý của tôi.

Bởi vì theo một nghĩa nào đó, chúng tôi lo lắng về chính xác cùng một thứ. Tôi khiếp sợ rằng hành tinh của chúng ta đã bị thuộc địa hóa bởi các dạng sống nhân tạo mà chúng ta xây dựng, nhưng đã thoát khỏi sự kiểm soát của chúng ta. Tôi khiếp terrified rằng những dạng sống này làm hỏng quá trình tạo lập tri thức của chúng ta, khiến chúng ta không thể biết được điều gì là đúng và điều gì là sai. Tôi khiếp sợ rằng những dạng sống này đã chinh phục bộ máy nhà nước – cơ quan lập pháp, cơ quan và tòa án của chúng ta – để các cơ quan công này hoạt động chống lại công chúng và vì những "vị chúa người ngoài hành tinh" thuộc địa này.

Sự khác biệt là, những dạng sống nhân tạo mà tôi lo lắng không phải là giả thuyết – chúng ở đây ngay bây giờ, giữa chúng ta, đe dọa sự tồn tại của loài người. Những dạng sống nhân tạo này được gọi là "công ty trách nhiệm hữu hạn".

Thách thức đối với những "sinh vật nhân tạo" này sẽ đòi hỏi chúng ta phải xây dựng những "hàng hóa công số quốc tế" khổng lồ: một internet hậu-Mỹ gồm các nền tảng và phần mềm miễn phí/mở, có thể kiểm toán, minh bạch, chống lại sự suy thoái (enshittification) cho mọi mục đích và thiết bị hiện đang hoạt động.

Mỗi khoảnh khắc chúng ta vẫn còn mắc kẹt trong "internet bẩn thỉu" (enshitternet) là một khoảnh khắc của rủi ro hiện sinh. Chỉ bằng một cú nhấp chuột, một lãnh đạo có thể ra lệnh cho John Deere ngắt tất cả các máy kéo trong nước của bạn.

Người ta không cần xe tăng để đánh cắp đất đai. Họ có thể chỉ cần ngắt quyền truy cập của Đan Mạch vào các nền tảng của Mỹ như Office365, iOS và Android và làm "gạch" (brick) cả cả nước đó. Nó sẽ giống như một Eo biển Hormuz khác, nhưng thay vì dầu và phân bón, họ sẽ kiểm soát dòng chảy của Lego, thuốc và các loại kẹo vị thuốc đen mạnh mẽ.

Đây không phải là những rủi ro có thể phát triển trong tương lai. Đó là những rủi ro mà chúng ta đang đối mặt ngày hôm nay và thành thật mà nói, chúng thật đáng sợ.

Thỏa thuận chung

Vì vậy, đây là cược phụ của tôi trong "Cược của Pascal". Nếu bạn nghĩ rằng chúng ta cần xây dựng "hàng hóa công số quốc tế" để ngăn chặn rủi ro tương lai của một dạng sống nhân tạo thuộc địa, tàn bạo, ác độc, thì hãy hãy đồng ý rằng nguyên mẫu cho dự án đó chính là "hàng hóa công số quốc tế" mà chúng ta cần ngay bây giờ để đưa vào internet hậu-Mỹ và cứu chúng ta khỏi những dạng sống nhân tạo thuộc địa đã đưa cái phễu hút máu của chúng vào cổ họng chúng ta.

Một khi chúng ta đánh bại những kẻ xâm lược ngoài hành tinh đó, chúng ta có thể thấy rằng tất cả những người đang cố gắng triệu hồi thần ác đã mất khả năng làm như vậy, và cuộc khủng hoảng của bạn sẽ được tránh khỏi. Nhưng nếu trường hợp đó không xảy ra và thần ác vẫn ám ảnh chúng ta, thì tôi sẽ giúp bạn huy động các đội ngũ chuyên gia sản xuất hàng hóa công số quốc tế – những người vừa chiến thắng vang dội trước công ty trách nhiệm hữu hạn – và cùng nhau, chúng ta sẽ chiến đấu với thần ác mà bạn thề sẽ xuất hiện trong tương lai.

Tôi nghĩ đó là một lời đề xuất khá vững chắc.