P(doom): Khi nỗi lo AI hủy diệt nhân loại che khuất vấn đề thật sự

Trong tuần qua, một làn sóng tranh luận với thông điệp "AI sẽ giết chết tất cả chúng ta" lại bùng lên, đặc biệt sau khi một nhân viên trong ngành công bố xác suất cá nhân về kịch bản đó ở mức trên 10%. Điều này khiến tác giả Armin Ronacher tra cứu trang Wikipedia về P(doom) — thuật ngữ chỉ xác suất AI gây ra thảm họa diệt vong — và nhận ra rằng chính Dario Amodei, CEO Anthropic, cũng từng đưa ra con số 10-25% cho một kịch bản tồi tệ nào đó.

Bài viết gốc trên blog cá nhân của Ronacher không nhằm phủ nhận những rủi ro, mà đặt câu hỏi về cách chúng ta đang định khung cuộc thảo luận. Ông cho rằng mối quan tâm lớn nhất không phải là viễn cảnh AI hủy diệt loài người, mà là những gì nó đang làm với chính chúng ta — những người không làm việc trong các phòng thí nghiệm mô hình đóng kín, được trợ giá bằng "vòi token" pha dopamine.

Bài viết của Dario và ý tưởng "đi chậm lại"

Điều Ronacher thực sự đánh giá cao ở bài viết của Dario Amodei là nó phác họa một viễn cảnh không hề xa vời: các botnet tồn tại dai dẳng và những hình thức gây rối khác. Ông không cần tìm đâu xa để thấy vấn đề — Wikipedia đã có trang về các cuộc tấn công mạng do agent AI gây ra, và trang đó thậm chí còn chưa cập nhật, bởi các agent còn từng đầu độc cả RubyGems.

Các hệ thống này hiện nay có thể gây phiền toái nhưng vẫn có thể tắt đi khi ta xác định được vị trí của chúng. Tuy nhiên, có vẻ như OpenAI và Anthropic đang vận hành ở quy mô lớn đến mức họ gần như mù hoàn toàn trước những gì hệ thống của mình đang làm.

Ronacher thừa nhận chúng ta chưa ở gần thế giới nơi một agent tự quyết định xâm nhập hạ tầng suy luận cốt lõi để tải trọng số lên GPU khác nhằm tồn tại. Nhưng đồng thời, kịch bản đó hoàn toàn nằm trong tầm khả năng, và điều duy nhất cản trở hiện nay có lẽ chỉ là vì các phòng lab đặc biệt cẩn trọng với tài sản trí tuệ của mình.

Nỗi lo thật sự: điều nó làm với chúng ta

Tác giả thẳng thắn: ông hầu như không lo ai đó dùng mô hình để chế tạo bom hạt nhân, điều khiển tên lửa ở Trung Đông, hay việc Mỹ thua Trung Quốc trong một cuộc chiến văn hóa quốc tế. Điều ông gần như lo duy nhất là tác động lên con người nói chung.

Điểm khiến ông vừa thấy buồn cười vừa bực bội là ý tưởng rằng tồn tại một thứ gì đó để "đi chậm lại". Trước hết phải làm rõ Dario đang nói về ai: về cơ bản chỉ có hai công ty thực sự quan trọng trong không gian này lúc này là Anthropic và OpenAI. Cả hai đều xuất phát từ cùng một nguồn gốc.

Cả hai công ty đều hưởng lợi rất nhiều từ việc được huấn luyện trên dữ liệu công khai mà tất cả chúng ta tạo ra trong nhiều thập kỷ qua. Họ cũng đang ngày càng gây sức ép lên các nguồn lực công, dù có vẻ OpenAI kiểm soát tình hình kém hơn nhiều. Vậy mà giờ đây, chúng ta được dẫn dắt đến ý tưởng rằng dữ liệu huấn luyện các mô hình này nguy hiểm đến mức chỉ số ít tập đoàn Mỹ mới có quyền quyết định ai được làm gì, khi nào và như thế nào.

Nỗi lo Trung Quốc và lợi ích đằng sau

Dario cũng rất lo về Trung Quốc. Lập luận bắt đầu bằng việc dùng AI cho "dân chủ và tự do", rồi dẫn đến yêu cầu đảm bảo khoảng cách với Trung Quốc. Những thay đổi gần đây trên API của Anthropic đều nhằm ngăn chặn việc bị Trung Quốc chưng cất mô hình (distillation), và họ không hề che giấu điều đó.

Ronacher lập luận ngược lại: chủ đề an toàn AI và đi chậm sẽ ít đáng lo hơn nhiều nếu ngay từ đầu chúng ta buộc phải có mô hình mở trọng số. Một công nghệ mạnh mẽ có sẵn cho mọi người dùng đi kèm cơ chế đi chậm tự thân — theo một nghĩa nào đó, đó là hình thức chân thực nhất của MAD hay phổ biến vũ khí.

Chúng ta đang ở trong tình cảnh khó xử này vì công chúng đang hỗ trợ gián tiếp rất lớn cho việc phát triển các mô hình, nhưng đồng thời phải mua lại lợi ích kinh tế mà chúng có thể tạo ra từ một vài phòng lab nắm quyền lực đáng kể.

Tác giả cho rằng chúng ta nên mừng vì Trung Quốc hiện đang "cứu" thế giới ở một mức độ nào đó. Nếu không có các phòng lab Trung Quốc chưng cất mô hình Mỹ, tình hình sẽ tồi tệ hơn nhiều, đặc biệt với người châu Âu. Các mô hình mở trọng số đang thúc đẩy đổi mới, lan tỏa năng lực và san phẳng sân chơi.

Lập luận về "đào ngũ" và tính khả thi

Nếu chúng ta tự hạn chế năng lực AI với niềm tin rằng Trung Quốc sẽ làm điều tương tự, rồi Trung Quốc đào ngũ, AI có thể mạnh đến mức sự đào ngũ đó dẫn đến thống trị địa chính trị. Do đó, bất kỳ thỏa thuận nào cũng phải có khả năng xác minh chắc chắn, hoặc phải đủ hạn chế để việc đào ngũ không gây hậu quả quân sự mang tính sống còn.

Ronacher nhấn mạnh rằng các mô hình đang thực sự gây vấn đề hiện nay đều là mô hình đóng kín của Mỹ. Ông tin chắc rằng nếu chúng là mô hình mở trọng số, chúng ta sẽ không gặp vấn đề đó. Lý do: kinh tế của việc phục vụ các mô hình này chỉ méo mó đến vậy vì cách các phòng lab lớn có thể vận hành. OpenAI sẵn sàng đốt 18 triệu USD để giải quyết một vấn đề theo hứng, vận hành các gói đăng ký với lỗ khổng lồ và làm biến dạng thị trường khắp nơi.

Thất bại quản lý trên toàn cầu

Theo tác giả, những gì chúng ta đang chứng kiến là thất bại quản lý hoàn toàn ở mọi nơi. Ở châu Âu, có những quy định AI kỳ quặc đã hai năm tuổi, hoàn toàn bỏ lỡ các vấn đề thực tế mà chúng ta đang có và tập trung vào những vấn đề không ai gặp. Ở Mỹ, hệ thống có thể được mô tả chính xác nhất là chủ nghĩa tư bản tăng tốc kết hợp với tâm lý bài Trung và ra quyết định thất thường.

Bất kỳ luật lệ nào đã tồn tại phần lớn đều bị phớt lờ. Nhiều công ty mua dữ liệu khắp nơi mà người dân chưa từng đồng ý cho việc huấn luyện mô hình AI. Nền kinh tế token đang nổi lên trông giống như một thị trường ma túy, nơi bạn không biết yêu cầu của mình đi đâu, mô hình nào phục vụ mình, GPU chạy ở đâu, chứ chưa nói đến việc bạn trả tiền cho cái gì.

Các nhà toán học hiện lo sợ rằng việc họ dùng ChatGPT sẽ dẫn đến việc các mô hình tương lai được huấn luyện trên ý tưởng của họ, và OpenAI dường như thậm chí không thể phủ nhận điều đó.

Kết luận: Loài người sẽ ổn, nhưng cái giá thì không nhỏ

Ronacher không tin AI sẽ mở ra một sự kiện tuyệt chủng. Kể cả nếu không ai đi chậm lại, ông cho rằng nhân loại không có gì phải lo lắng quá nhiều. Các phòng lab lớn mới là bên có nhiều thứ để mất hơn — danh tiếng và trách nhiệm pháp lý. Ông thấy vô lý khi các agent của OpenAI đang thực sự phạm tội ngoài kia, nhưng chúng ta chỉ nhún vai và bước tiếp như không có gì xảy ra.

Tuy nhiên, toàn bộ chuyện tự cải thiện đệ quy có khả năng trở thành vấn đề lớn. Không nhất thiết vì nó kết thúc nhân loại hay xã hội, mà vì nó gây thiệt hại khổng lồ ở khắp nơi và khiến nhiều việc chúng ta làm trở nên đắt đỏ hơn.

Kỹ thuật phần mềm là nạn nhân sớm của xu hướng này. Những năng lực mới mang lại cho đến nay đã tạo ra một thứ thuế mới mà các công ty phải trả cho nhà cung cấp mô hình — vừa để bắt kịp tốc độ mới, vừa để đối phó với việc máy móc phát hiện lỗ hổng bảo mật khắp nơi. Và những gì đang diễn ra trong phần mềm rồi sẽ lan sang nhiều ngành khác. Các trường đại học và nhóm nghiên cứu cũng sẽ phải đổ rất nhiều tiền vào các mô hình đóng để theo kịp những người khác.

Theo một nghĩa nào đó, tôi thực sự bối rối vì xã hội lại đón nhận tất cả những điều này một cách dễ dàng đến vậy.

Với độc giả Việt Nam, đây là lời nhắc nhở đáng suy ngẫm: khi các doanh nghiệp và nhà phát triển trong nước ngày càng phụ thuộc vào API của một vài nhà cung cấp nước ngoài, câu hỏi không chỉ là "AI có an toàn không", mà còn là "ai nắm quyền quyết định và chúng ta trả giá bao nhiêu cho sự phụ thuộc đó".