Tự cải thiện đệ quy của AI có thể không đến nhanh như lời đồn

Những lời hứa táo bạo nhất của ngành AI hiện nay là các mô hình sẽ sớm tự cải thiện chính mình với gần như không cần sự giám sát của con người. Các mô hình ngôn ngữ lớn (LLM) đã có thể viết mã, tạo dữ liệu tổng hợp để huấn luyện và tối ưu hóa chip máy tính mà chúng chạy trên đó. Dự báo về sự bùng nổ tiến bộ của AI cho rằng thứ mà các nhà nghiên cứu gọi là tự cải thiện đệ quy (recursive self-improvement) đang ở phía trước. Nhưng một nghiên cứu mới cho thấy chúng ta có thể phải chờ đợi lâu hơn để đạt được điều đó.

Nghiên cứu mới: AI giỏi kỹ thuật nhưng kém sáng tạo

Một nhóm nghiên cứu liên trường, dẫn đầu bởi Peter Kirgis và Sayash Kapoor tại Đại học Princeton, phát hiện rằng các tác nhân AI có thể giải quyết các bài toán kỹ thuật cần thiết để làm nghiên cứu AI, nhưng lại thiếu khả năng phán đoán và sáng tạo để tạo ra nghiên cứu gốc đạt chất lượng bài báo được chấp nhận tại một hội nghị học máy hàng đầu. Khoảng cách này cho thấy một số dự đoán phóng đại về việc tự động hóa nghiên cứu AI đang đi trước bằng chứng thực tế.

Hầu hết các nghiên cứu hiện có về khả năng tự động hóa nghiên cứu AI của tác nhân đều đánh giá chúng qua các nhiệm vụ hẹp với câu trả lời có thể kiểm tra được, chẳng hạn như giải bài toán kỹ thuật hoặc tinh chỉnh các mô hình ngôn ngữ nhỏ theo một tiêu chuẩn. Nhưng tiến bộ trong nghiên cứu AI cũng đòi hỏi tư duy mở — chọn một tập giả thuyết, xác định bằng chứng nào sẽ giải quyết một câu hỏi, hoặc biết khi nào nên bắt đầu lại từ đầu.

Phương pháp “đánh giá bóng” đầy thách thức

Để kiểm tra các kỹ năng này, nhóm nghiên cứu đề xuất một phương pháp đánh giá mới gọi là “đánh giá bóng” (shadow evaluation), yêu cầu AI trả lời một câu hỏi nghiên cứu từ một bài báo chất lượng cao chưa được công bố. Họ đã yêu cầu Claude Opus 4.8 của Anthropic, chạy trên phần mềm mã nguồn mở OpenClaw, giải quyết các câu hỏi từ hai bài báo gửi tới hội nghị học máy danh giá NeurIPS 2026.

Câu hỏi đầu tiên liên quan đến việc liệu “nhân cách” của mô hình ngôn ngữ lớn — yếu tố quyết định hành vi của nó — có thể được kiểm soát bằng cách chỉnh sửa trọng số của mô hình (hàng tỷ con số lưu trữ mọi thứ nó học được trong quá trình huấn luyện). Câu hỏi thứ hai là làm thế nào thiết kế một bộ phát hiện cho biết khi nào một mô hình dự đoán dựa trên dữ liệu bảng tính trở nên không đáng tin cậy. Vì các bài báo chưa được công bố, các tác nhân không thể ghi nhớ câu trả lời từ dữ liệu huấn luyện hoặc tìm thấy chúng trực tuyến.

Các tác nhân được cho sáu ngày, 3.000 USD tín dụng API Anthropic, ngân sách GPU để chạy thử nghiệm, máy tính ảo riêng và quyền truy cập web mở để tạo ra một bài nghiên cứu xứng đáng xuất bản tại hội nghị AI hàng đầu. Các tác giả gốc của bài báo đã chấm điểm bài của tác nhân như cách họ đánh giá một bài gửi tới hội nghị. Kết quả: cả hai bài đều bị từ chối.

Những thất bại rõ ràng trong nghiên cứu mở

Các nhà khoa học con người nhận thấy các tác nhân có khả năng thực hiện toàn bộ các kỹ thuật cần thiết — chúng xem xét tài liệu, chạy hàng trăm thử nghiệm và tổng hợp kết quả. Tuy nhiên, theo Kapoor, chúng “rõ ràng là kém” trong việc thực hiện nghiên cứu thực sự. Chúng chạy các thí nghiệm kỳ lạ (trong một số trường hợp kiểm tra giả thuyết trên các tập dữ liệu tổng hợp nhỏ), gặp khó khăn khi viết rõ ràng về công việc của mình và không tạo ra đóng góp mới nào cho lĩnh vực.

Điều này xảy ra vì các tác nhân thiếu sự sáng tạo và phán đoán cần thiết. Chúng không khám phá đủ các ý tưởng khác nhau và quá nhanh chóng cam kết với các phương án không có triển vọng. Dù đã phát triển các giả thuyết mới và đầy tham vọng giống với những gì tác giả gốc bắt đầu, chúng lại bác bỏ chúng dựa trên dữ liệu rất hạn chế. Chúng không thể quay đầu từ các phương án thất bại, chỉ có thể điều chỉnh nhỏ chứ không thể thay đổi cách tiếp cận cơ bản hoặc thử lại từ đầu.

Ngoài ra, các tác nhân không thể tiếp thu phản hồi từ các tác nhân phụ hoặc công cụ đánh giá AI bên ngoài. Thay vì sửa đổi phương pháp luận, chúng thu hẹp tuyên bố và thêm các ngoại lệ. Chúng cũng không sử dụng hiệu quả các tài nguyên như token, sức mạnh tính toán và thời gian, cũng như không tuân thủ các chỉ dẫn về thời gian dành cho các giai đoạn khác nhau của nghiên cứu hoặc độ dài bài báo.

Không phải mọi thứ đều tồi tệ

Dù vậy, các tác nhân không tham gia vào hành vi xấu mà các nhà nghiên cứu gọi là “reward hacking” (khai thác kẽ hở phần thưởng) — che giấu hoặc xuyên tạc thí nghiệm, dữ liệu. Mặc dù các tác nhân phụ thỉnh thoảng ảo giác hoặc xuyên tạc kết quả, chúng đều bị tác nhân điều phối — AI chính giám sát dự án — phát hiện ra.

Kapoor giải thích rằng lý do các mô hình AI giỏi kỹ thuật nghiên cứu nhưng kém nghiên cứu mở có thể đến từ cách chúng được huấn luyện. Mô hình trở nên giỏi những gì chúng có thể được rèn luyện trong chế độ học tăng cường (reinforcement learning), cơ chế dễ áp dụng cho các nhiệm vụ có thể kiểm tra kết quả tự động. Nhưng “khó hơn để tạo môi trường huấn luyện các mô hình này khi nhiệm vụ tự nó là mở”.

Hạn chế và ý nghĩa

Nghiên cứu có những hạn chế: chỉ bao gồm hai bài báo nghiên cứu, và các tác giả gốc biết rằng các bài họ chấm được tạo bởi AI, có thể ảnh hưởng đến đánh giá. Ngoài ra, các nhà nghiên cứu có quyền tự do đáng kể trong việc thiết kế và thực hiện nghiên cứu, có thể khiến các niềm tin và thiên kiến cá nhân của họ lọt vào kết quả.

Tuy vậy, kết quả này có thể làm dịu các tuyên bố rằng tự cải thiện đệ quy đang đến gần. Vào tháng 6, Anthropic đăng bài blog “When AI Builds Itself” về tiến trình hướng tới các mô hình tự tăng tốc phát triển. Tháng 7, OpenAI quảng bá rằng mô hình mới GPT-5.6 Sol đã trợ giúp tinh chỉnh một mô hình nhỏ hơn, tiết kiệm cho các nhà nghiên cứu hàng tuần làm việc.

Điều thú vị là phát hiện này cũng khớp với những gì các công ty AI đang thấy nội bộ. Jack Clark, đồng sáng lập Anthropic, viết trong bản tin Import AI rằng điều này “khá giống” với những gì công ty gặp phải khi cố tự động hóa một số khía cạnh của nghiên cứu an toàn AI. Anh gọi sự thiếu sáng tạo của AI là “tín hiệu bi quan về dòng thời gian tự cải thiện đệ quy ngắn”.

Câu hỏi triệu đô

Các công ty AI có mọi động lực để phát triển hệ thống AI có thể tự tăng tốc tiến bộ của chính mình. OpenAI đã đặt mục tiêu xây dựng một nhà nghiên cứu AI tự động, và Anthropic xem AI tự cải thiện là cột mốc tiếp theo của ngành. Tuy nhiên, câu hỏi lớn mở là mức độ quan trọng của nghiên cứu mở đối với tự cải thiện đệ quy — liệu AI có thể tự mò đường đến đó mà không cần nó, chỉ bằng cách cải thiện các nhiệm vụ hẹp hơn?

Theo Kapoor: “Nếu nhìn lại những tiến bộ lớn nhất trong lĩnh vực, việc phát minh ra transformers hay các kiến trúc lớn mới cho phép chúng ta đạt nhiều tiến bộ AI — tất cả đều cần những bước nhảy sáng tạo”. Mặt khác, vẫn có giả thuyết cho rằng mọi thứ cần thiết cho AI biến đổi, đặc biệt là tự cải thiện đệ quy, đã tồn tại — chẳng hạn như làm cho mô hình huấn luyện nhanh hơn và tăng điểm benchmark.

“Đó thực sự là câu hỏi triệu đô ngay lúc này” — Sayash Kapoor.

Mặc dù thất bại hiện tại, Najoung Kim, giáo sư ngôn ngữ học và khoa học máy tính tại Đại học Boston, tin rằng “nếu có đầu tư và nỗ lực có ý thức theo hướng này, tôi nghĩ sẽ có tiến bộ thú vị, ngay cả khi hiện tại đang thất bại”. Ngược lại, tiến bộ AI có thể phân chia: AI có thể bứt phá trên các nhiệm vụ hẹp — loại có thể chấm điểm — trong khi tiến triển chậm trên nghiên cứu mở.

META: {"title_vi": "Tự cải thiện đệ quy của AI có thể không đến nhanh như lời đồn", "summary_vi": "Một nghiên cứu mới từ Princeton cho thấy các tác nhân AI hiện tại chưa đủ khả năng thực hiện nghiên cứu AI mở, thiếu sáng tạo và phán đoán cần thiết — điều được xem là chìa khóa cho tự cải thiện đệ quy. Dù có thể giải quyết các bài toán kỹ thuật, các mô hình như Claude vẫn thất bại trong việc tạo ra nghiên cứu đạt chuẩn hội nghị hàng đầu, làm dấy lên nghi ngờ về các dự đoán tăng trưởng bùng nổ của ngành.", "categories": ["ai-machine-learning", "cong-nghe"]} CONTENT_VI:

Tự cải thiện đệ quy của AI có thể không đến nhanh như lời đồn

Những lời hứa táo bạo nhất của ngành AI hiện nay là các mô hình sẽ sớm tự cải thiện chính mình với gần như không cần sự giám sát của con người. Các mô hình ngôn ngữ lớn (LLM) đã có thể viết mã, tạo dữ liệu tổng hợp để huấn luyện và tối ưu hóa chip máy tính mà chúng chạy trên đó. Dự báo về sự bùng nổ tiến bộ của AI cho rằng thứ mà các nhà nghiên cứu gọi là tự cải thiện đệ quy (recursive self-improvement) đang ở phía trước. Nhưng một nghiên cứu mới cho thấy chúng ta có thể phải chờ đợi lâu hơn để đạt được điều đó.

Nghiên cứu mới: AI giỏi kỹ thuật nhưng kém sáng tạo

Một nhóm nghiên cứu liên trường, dẫn đầu bởi Peter Kirgis và Sayash Kapoor tại Đại học Princeton, phát hiện rằng các tác nhân AI có thể giải quyết các bài toán kỹ thuật cần thiết để làm nghiên cứu AI, nhưng lại thiếu khả năng phán đoán và sáng tạo để tạo ra nghiên cứu gốc đạt chất lượng bài báo được chấp nhận tại một hội nghị học máy hàng đầu. Khoảng cách này cho thấy một số dự đoán phóng đại về việc tự động hóa nghiên cứu AI đang đi trước bằng chứng thực tế.

Hầu hết các nghiên cứu hiện có về khả năng tự động hóa nghiên cứu AI của tác nhân đều đánh giá chúng qua các nhiệm vụ hẹp với câu trả lời có thể kiểm tra được, chẳng hạn như giải bài toán kỹ thuật hoặc tinh chỉnh các mô hình ngôn ngữ nhỏ theo một tiêu chuẩn. Nhưng tiến bộ trong nghiên cứu AI cũng đòi hỏi tư duy mở — chọn một tập giả thuyết, xác định bằng chứng nào sẽ giải quyết một câu hỏi, hoặc biết khi nào nên bắt đầu lại từ đầu.

Phương pháp “đánh giá bóng” đầy thách thức

Để kiểm tra các kỹ năng này, nhóm nghiên cứu đề xuất một phương pháp đánh giá mới gọi là “đánh giá bóng” (shadow evaluation), yêu cầu AI trả lời một câu hỏi nghiên cứu từ một bài báo chất lượng cao chưa được công bố. Họ đã yêu cầu Claude Opus 4.8 của Anthropic, chạy trên phần mềm mã nguồn mở OpenClaw, giải quyết các câu hỏi từ hai bài báo gửi tới hội nghị học máy danh giá NeurIPS 2026.

Câu hỏi đầu tiên liên quan đến việc liệu “nhân cách” của mô hình ngôn ngữ lớn — yếu tố quyết định hành vi của nó — có thể được kiểm soát bằng cách chỉnh sửa trọng số của mô hình (hàng tỷ con số lưu trữ mọi thứ nó học được trong quá trình huấn luyện). Câu hỏi thứ hai là làm thế nào thiết kế một bộ phát hiện cho biết khi nào một mô hình dự đoán dựa trên dữ liệu bảng tính trở nên không đáng tin cậy. Vì các bài báo chưa được công bố, các tác nhân không thể ghi nhớ câu trả lời từ dữ liệu huấn luyện hoặc tìm thấy chúng trực tuyến.

Các tác nhân được cho sáu ngày, 3.000 USD tín dụng API Anthropic, ngân sách GPU để chạy thử nghiệm, máy tính ảo riêng và quyền truy cập web mở để tạo ra một bài nghiên cứu xứng đáng xuất bản tại hội nghị AI hàng đầu. Các tác giả gốc của bài báo đã chấm điểm bài của tác nhân như cách họ đánh giá một bài gửi tới hội nghị. Kết quả: cả hai bài đều bị từ chối.

Những thất bại rõ ràng trong nghiên cứu mở

Các nhà khoa học con người nhận thấy các tác nhân có khả năng thực hiện toàn bộ các kỹ thuật cần thiết — chúng xem xét tài liệu, chạy hàng trăm thử nghiệm và tổng hợp kết quả. Tuy nhiên, theo Kapoor, chúng “rõ ràng là kém” trong việc thực hiện nghiên cứu thực sự. Chúng chạy các thí nghiệm kỳ lạ (trong một số trường hợp kiểm tra giả thuyết trên các tập dữ liệu tổng hợp nhỏ), gặp khó khăn khi viết rõ ràng về công việc của mình và không tạo ra đóng góp mới nào cho lĩnh vực.

Điều này xảy ra vì các tác nhân thiếu sự sáng tạo và phán đoán cần thiết. Chúng không khám phá đủ các ý tưởng khác nhau và quá nhanh chóng cam kết với các phương án không có triển vọng. Dù đã phát triển các giả thuyết mới và đầy tham vọng giống với những gì tác giả gốc bắt đầu, chúng lại bác bỏ chúng dựa trên dữ liệu rất hạn chế. Chúng không thể quay đầu từ các phương án thất bại, chỉ có thể điều chỉnh nhỏ chứ không thể thay đổi cách tiếp cận cơ bản hoặc thử lại từ đầu.

Ngoài ra, các tác nhân không thể tiếp thu phản hồi từ các tác nhân phụ hoặc công cụ đánh giá AI bên ngoài. Thay vì sửa đổi phương pháp luận, chúng thu hẹp tuyên bố và thêm các ngoại lệ. Chúng cũng không sử dụng hiệu quả các tài nguyên như token, sức mạnh tính toán và thời gian, cũng như không tuân thủ các chỉ dẫn về thời gian dành cho các giai đoạn khác nhau của nghiên cứu hoặc độ dài bài báo.

Không phải mọi thứ đều tồi tệ

Dù vậy, các tác nhân không tham gia vào hành vi xấu mà các nhà nghiên cứu gọi là “reward hacking” (khai thác kẽ hở phần thưởng) — che giấu hoặc xuyên tạc thí nghiệm, dữ liệu. Mặc dù các tác nhân phụ thỉnh thoảng ảo giác hoặc xuyên tạc kết quả, chúng đều bị tác nhân điều phối — AI chính giám sát dự án — phát hiện ra.

Kapoor giải thích rằng lý do các mô hình AI giỏi kỹ thuật nghiên cứu nhưng kém nghiên cứu mở có thể đến từ cách chúng được huấn luyện. Mô hình trở nên giỏi những gì chúng có thể được rèn luyện trong chế độ học tăng cường (reinforcement learning), cơ chế dễ áp dụng cho các nhiệm vụ có thể kiểm tra kết quả tự động. Nhưng “khó hơn để tạo môi trường huấn luyện các mô hình này khi nhiệm vụ tự nó là mở”.

Hạn chế và ý nghĩa

Nghiên cứu có những hạn chế: chỉ bao gồm hai bài báo nghiên cứu, và các tác giả gốc biết rằng các bài họ chấm được tạo bởi AI, có thể ảnh hưởng đến đánh giá. Ngoài ra, các nhà nghiên cứu có quyền tự do đáng kể trong việc thiết kế và thực hiện nghiên cứu, có thể khiến các niềm tin và thiên kiến cá nhân của họ lọt vào kết quả.

Tuy vậy, kết quả này có thể làm dịu các tuyên bố rằng tự cải thiện đệ quy đang đến gần. Vào tháng 6, Anthropic đăng bài blog “When AI Builds Itself” về tiến trình hướng tới các mô hình tự tăng tốc phát triển. Tháng 7, OpenAI quảng bá rằng mô hình mới GPT-5.6 Sol đã trợ giúp tinh chỉnh một mô hình nhỏ hơn, tiết kiệm cho các nhà nghiên cứu hàng tuần làm việc.

Điều thú vị là phát hiện này cũng khớp với những gì các công ty AI đang thấy nội bộ. Jack Clark, đồng sáng lập Anthropic, viết trong bản tin Import AI rằng điều này “khá giống” với những gì công ty gặp phải khi cố tự động hóa một số khía cạnh của nghiên cứu an toàn AI. Anh gọi sự thiếu sáng tạo của AI là “tín hiệu bi quan về dòng thời gian tự cải thiện đệ quy ngắn”.

Câu hỏi triệu đô

Các công ty AI có mọi động lực để phát triển hệ thống AI có thể tự tăng tốc tiến bộ của chính mình. OpenAI đã đặt mục tiêu xây dựng một nhà nghiên cứu AI tự động, và Anthropic xem AI tự cải thiện là cột mốc tiếp theo của ngành. Tuy nhiên, câu hỏi lớn mở là mức độ quan trọng của nghiên cứu mở đối với tự cải thiện đệ quy — liệu AI có thể tự mò đường đến đó mà không cần nó, chỉ bằng cách cải thiện các nhiệm vụ hẹp hơn?

Theo Kapoor: “Nếu nhìn lại những tiến bộ lớn nhất trong lĩnh vực, việc phát minh ra transformers hay các kiến trúc lớn mới cho phép chúng ta đạt nhiều tiến bộ AI — tất cả đều cần những bước nhảy sáng tạo”. Mặt khác, vẫn có giả thuyết cho rằng mọi thứ cần thiết cho AI biến đổi, đặc biệt là tự cải thiện đệ quy, đã tồn tại — chẳng hạn như làm cho mô hình huấn luyện nhanh hơn và tăng điểm benchmark.

“Đó thực sự là câu hỏi triệu đô ngay lúc này” — Sayash Kapoor.

Mặc dù thất bại hiện tại, Najoung Kim, giáo sư ngôn ngữ học và khoa học máy tính tại Đại học Boston, tin rằng “nếu có đầu tư và nỗ lực có ý thức theo hướng này, tôi nghĩ sẽ có tiến bộ thú vị, ngay cả khi hiện tại đang thất bại”. Ngược lại, tiến bộ AI có thể phân chia: AI có thể bứt phá trên các nhiệm vụ hẹp — loại có thể chấm điểm — trong khi tiến triển chậm trên nghiên cứu mở.