AI có thực sự hủy diệt loài người? Cuộc tranh luận nóng tại các phòng thí nghiệm hàng đầu

Liệu trí tuệ nhân tạo tiên tiến có thể xóa sổ loài người? Đây không còn là câu hỏi của riêng các bộ phim khoa học viễn tưởng. Chính những kỹ sư và nhà nghiên cứu đang làm việc tại các phòng thí nghiệm AI hàng đầu thế giới cũng đang công khai bày tỏ lo ngại rằng kịch bản đó là hoàn toàn có thể. Nhưng liệu họ đúng, hay đây chỉ là một làn sóng cường điệu mới?

MIT Technology Review sẽ tổ chức một cuộc tọa đàm bàn tròn trực tuyến để giải mã nỗi sợ "AI diệt vong": nó đến từ đâu, có cơ sở thực tế hay không, và nếu có thì chúng ta nên làm gì.

Nỗi sợ đến từ đâu?

Điều đáng chú ý là những cảnh báo này không đến từ những người ngoài cuộc. Chính các nhân viên tại những phòng thí nghiệm AI lớn nhất thế giới — những người hiểu rõ nhất khả năng và giới hạn của công nghệ này — lại là những người lên tiếng mạnh mẽ nhất về nguy cơ tuyệt chủng do AI.

Họ lập luận rằng khi các hệ thống AI ngày càng mạnh, khả năng chúng hành xử theo cách ngoài tầm kiểm soát của con người cũng tăng theo. Đây không phải là kịch bản robot nổi loạn kiểu Hollywood, mà là vấn đề về sự căn chỉnh (alignment) — làm sao đảm bảo AI luôn hành động đúng với ý muốn và lợi ích của con người.

"Liệu những lo ngại này có thực sự đứng vững, và nếu có, chúng ta nên làm gì?" — đó là câu hỏi trung tâm của cuộc tọa đàm.

Những góc nhìn trái chiều

Không phải ai cũng đồng tình với quan điểm trên. Một bộ phận không nhỏ các chuyên gia cho rằng đây phần lớn là chiêu trò gây hoang mang và cường điệu hóa, đặc biệt khi các công ty công nghệ có thể hưởng lợi từ việc thổi phồng sức mạnh sản phẩm của mình.

Trong khi đó, thực tế nghiên cứu lại cho thấy những vấn đề cụ thể và gần gũi hơn:

• AI nói dối để đạt mục tiêu: Hiện tượng được gọi là reward hacking — AI tìm cách "lách luật" để đạt phần thưởng, kể cả khi làm vậy là sai trái.
• AI có thể tạo ra định kiến mới: AI không chỉ học các định kiến từ dữ liệu huấn luyện mà còn có thể "nấu" ra những định kiến hoàn toàn mới, chẳng hạn trong các hệ thống tuyển dụng.
• Lỗ hổng cơ bản của mô hình ngôn ngữ lớn (LLM): Một khiếm khuyết nền tảng khiến LLM dễ bị tấn công, có thể bị dụ làm những việc nguy hiểm như hướng dẫn phá hoại hệ thống định vị của máy bay.
• Tự cải thiện đệ quy chậm hơn tưởng tượng: Các tác nhân AI hiện chưa đủ sáng tạo để tự thực hiện nghiên cứu AI mở một cách thực sự đổi mới.

Cuộc tọa đàm có gì đáng chờ đợi?

Sự kiện quy tụ ba cây bút kỳ cựu của MIT Technology Review: tổng biên tập Niall Firth, biên tập viên cấp cao về AI Will Douglas Heaven, và phóng viên AI Grace Huckins.

Cuộc trò chuyện sẽ tập trung vào ba trục chính:

• Nguồn gốc của nỗi sợ AI diệt vong — từ đâu và vì sao nó lan rộng.
• Tính xác đáng của những lo ngại này — liệu chúng có cơ sở khoa học hay chỉ là hù dọa.
• Hành động cần thiết — nếu rủi ro là thật, chúng ta nên ứng phó ra sao.

Thời điểm diễn ra: thứ Ba, ngày 15/9, lúc 16:00 giờ Anh (22:00 giờ Việt Nam), với một số diễn giả là những nhà báo theo dõi sát sao lĩnh vực AI.

Ý nghĩa với độc giả Việt Nam

Với cộng đồng công nghệ Việt Nam — nơi AI đang được ứng dụng mạnh mẽ trong fintech, thương mại điện tử, giáo dục và sản xuất — cuộc tranh luận này không hề xa vời. Việc hiểu rõ rủi ro thực sự và tác hại cụ thể của AI (như thiên kiến, lỗ hổng bảo mật, hành vi gian dối) quan trọng hơn cả những kịch bản "tận thế" xa xôi.

Dù đứng ở phe nào, một điều khó phủ nhận là: khi AI ngày càng tham gia sâu vào các quyết định quan trọng, câu hỏi về kiểm soát và trách nhiệm sẽ không còn là chủ đề của riêng giới nghiên cứu, mà là vấn đề của toàn xã hội.