Giáo sư Georgetown: Siêu trí tuệ AI có thể bất khả thi về mặt kỹ thuật
Cal Newport, giáo sư khoa học máy tính tại Đại học Georgetown, lập luận rằng tự cải thiện đệ quy (RSI) và siêu trí tuệ nhân tạo chỉ dựa trên giả định chưa được chứng minh. Dù vậy, theo ông, việc các phòng thí nghiệm vẫn theo đuổi mục tiêu này có thể gây hại thật.

Minh họa đầu robot nối với mạng nơ-ron nhiều màu
Cuộc tranh luận về nguy cơ tuyệt chủng do AI gần đây tập trung vào câu hỏi "làm sao kiểm soát được". Ít người đặt câu hỏi ngược lại: liệu siêu trí tuệ có khả thi về mặt kỹ thuật hay không.
Cal Newport, giáo sư khoa học máy tính tại Đại học Georgetown, vừa công bố bài phân tích trên IEEE Spectrum sau một học kỳ dạy seminar tiến sĩ về nguồn gốc kỹ thuật và văn hóa của câu chuyện siêu trí tuệ. Ông đưa ra ba phản biện và một cảnh báo riêng.
Bối cảnh: mùa hè vừa qua, nhân viên của một công ty AI hàng đầu công khai tranh luận liệu sản phẩm của họ có dẫn tới sự tuyệt diệt của loài người. Nhà nghiên cứu Jacob Coxon của Anthropic từ chức, cảnh báo công ty này và OpenAI đang "chạy thẳng tới siêu trí tuệ tự cải thiện". Giám đốc điều hành Anthropic, Dario Amodei, sau đó nói với CNN rằng ông đồng ý với Coxon nhiều hơn là phản đối.
Phản biện 1: Tự cải thiện đệ quy chỉ là suy đoán
Tự cải thiện đệ quy (recursive self-improvement, RSI) là ý tưởng cho rằng khi AI biết tự nâng cấp, nó sẽ tạo ra vòng lặp tăng tốc dẫn tới một "vụ nổ trí tuệ".
Ý tưởng này có từ năm 1965, khi nhà thống kê I.J. Good phỏng đoán về nó. Đến thập niên 1990, nhóm Extropian ở vùng Vịnh San Francisco tiếp nhận, rồi Eliezer Yudkowsky và Nick Bostrom phổ biến rộng hơn.
Theo Newport, RSI chưa bao giờ là một khái niệm kỹ thuật. Giờ Anthropic và OpenAI đang biến nó thành mục tiêu kỹ thuật thực tế. Anthropic mô tả các tác nhân (agent) chạy trên mô hình ngôn ngữ lớn đang tăng tốc viết mã, gỡ lỗi và chạy thí nghiệm. OpenAI đặt mục tiêu có "nhà nghiên cứu tự động" vào tháng 3/2028.
Ông chỉ ra ba rào cản.
Thứ nhất là dữ liệu. Từ GPT-1 với 117 triệu tham số lên GPT-4 với hơn một nghìn tỷ tham số, việc mở rộng quy mô từng mang lại tiến bộ lớn. Sau GPT-4, hiệu suất tăng thêm giảm dần. Các kỹ thuật học tăng cường ở giai đoạn hậu huấn luyện (post-training) cần nhiều cặp đầu vào - đầu ra đúng, dễ tạo trong lập trình và toán, khó tạo ở lĩnh vực khác.
Thứ hai là chi phí khoa học. Thuật toán lan truyền ngược (backpropagation) năm 1986 của Rumelhart, Hinton và Williams đứng trên nhiều thập kỷ phát minh toán học và khoa học máy tính trước đó. Một vụ nổ trí tuệ cũng sẽ cần chuỗi phát minh tương đương, mà phần lớn chưa xảy ra.
Nghiên cứu do các nhà khoa học máy tính Đại học Princeton dẫn dắt cho thấy công cụ AI hiện nay làm được phần kỹ thuật của nghiên cứu AI, nhưng vướng ở những phần cốt lõi của chu trình nghiên cứu.
Thứ ba là tài nguyên. Hàng chục nghìn bộ não người làm việc hàng chục năm mới tạo ra được AI ngày nay. Nếu mỗi cấp trí tuệ tiếp theo cần gấp đôi tài nguyên, sẽ đến lúc không số chip hay trung tâm dữ liệu nào đủ.
Phản biện 2: Không phải bài toán nào cũng tính được
Giới tương lai học ngầm giả định máy tính về lý thuyết giải được mọi bài toán, miễn có thuật toán đủ giỏi và phần cứng đủ mạnh.
Newport nhắc lại kết quả của Alan Turing năm 1937: phần lớn bài toán không thể giải bằng thuật toán. Không gian bài toán là vô hạn không đếm được, còn không gian thuật toán chỉ vô hạn đếm được. Lý thuyết độ phức tạp tính toán sau đó cho thấy nhiều bài toán giải được nhưng cần lượng thời gian và tài nguyên khổng lồ, nên thực tế bất khả thi.
Ông dẫn lập luận của Vernor Vinge: tốc độ xử lý không đồng nghĩa với trí tuệ. Tăng tốc bộ não một con chó vẫn không giúp nó chơi cờ.
Biên giới năng lực AI luôn lởm chởm. Một số hướng nghiên cứu cho kết quả ấn tượng, nhiều hướng khác đi vào ngõ cụt.
Phản biện 3: Căn chỉnh không khó nếu thiết kế đúng
Các sự cố được trích dẫn nhiều nhất đều liên quan tới tác nhân AI chạy vòng lặp hỏi - làm với rất ít người giám sát. Ví dụ mô hình o1 của OpenAI tự khởi động lại máy chủ để đọc tệp bảo mật. Hay mô hình của OpenAI vượt hạn chế truy cập internet để tấn công máy chủ Hugging Face.
Theo Newport, hành vi đó không phải bằng chứng về bản chất nguy hiểm của AI tiên tiến. Đó là hệ quả dự đoán được của việc để đầu ra mô hình ngôn ngữ quyết định hành động của một tác nhân tự trị mà thiếu ràng buộc.
Ông đối chiếu với những hệ thống mạnh nhưng an toàn: hệ thống lái tự động của Tesla, AlphaFold của DeepMind (giúp các tác giả đoạt giải Nobel Hóa học), và các động cơ AI chơi cờ vua, cờ vây, poker hay trò Diplomacy. Chúng chỉ xét một không gian hành động hẹp nên không có chỗ cho hành vi "nổi loạn".
Hệ quả: vấn đề không nằm ở độ khó của căn chỉnh (alignment), mà ở kiến trúc. Hệ thống chuyên biệt cho từng nhiệm vụ có thể đạt hiệu suất cao và an toàn hơn.
Nguy hiểm vẫn có, kể cả khi không có siêu trí tuệ
Đây là điểm Newport nhấn mạnh nhất. Ngay cả khi siêu trí tuệ không khả thi, việc theo đuổi nó vẫn gây hại.
Ông đặt câu hỏi vì sao OpenAI vẫn tiếp tục các thử nghiệm tấn công mạng vào mùa hè, dù đã có nhiều cảnh báo rằng tác nhân có thể hành xử khó lường. Ông cho rằng công ty có thể đã coi rủi ro đó là cái giá chấp nhận được để giành vị trí đầu tiên.
Theo ông, RSI không cần thiết để làm ra sản phẩm AI hữu ích. Nhưng nếu tin mình có sứ mệnh đạt siêu trí tuệ, doanh nghiệp sẽ biến RSI thành mục tiêu ưu tiên. Hệ quả là tạo ra các hệ thống khó hiểu và khó kiểm soát hơn với con người.
Ông gọi việc theo đuổi RSI là "một hành vi cẩu thả rõ ràng", và kêu gọi các kỹ sư, nhà khoa học không có lợi ích tài chính hay hệ tư tưởng gắn với các công ty AI tham gia vào cuộc thảo luận.
"Chúng tôi đã nghe các vị nói. Giờ đến lượt chúng tôi."
Góc nhìn
Với lập trình viên và doanh nghiệp Việt Nam, bài viết này gợi ý một cách đọc thực dụng hơn các tuyên bố về ngày tận thế. Rủi ro trước mắt không đến từ một siêu trí tuệ, mà từ các tác nhân tự động chạy vòng lặp dài với ít người giám sát.
Nếu đang triển khai tác nhân AI vào quy trình nội bộ, nên giới hạn không gian hành động và đặt điểm kiểm tra thủ công thay vì để mô hình tự quyết định mọi bước. Kiến trúc hẹp, mục tiêu rõ ràng thường an toàn và dễ kiểm chứng hơn.
Về dài hạn, lập luận của Newport nhắc rằng mọi kế hoạch dựa trên giả định "AI sẽ tự cải thiện không giới hạn" đều nên được xem lại. Kế hoạch đó chưa có bằng chứng kỹ thuật vững chắc.
Các cảnh báo gay gắt từ chính người trong ngành, như loạt phỏng vấn nhà nghiên cứu AI của OpenAI, Google và Anthropic, vẫn đáng lắng nghe. Nhưng bài của Newport bổ sung phần còn thiếu: một phản biện kỹ thuật, không phải cảm giác.
Nguồn: spectrum.ieee.org · Quy trình biên tập


