GPT-6 Astra chỉnh trực tiếp trọng số của mô hình khác, không cần huấn luyện lại

Một nhóm nghiên cứu tại Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo thuộc MIT (CSAIL) cho biết các mô hình trí tuệ nhân tạo tiên tiến như GPT-6 Astra có thể đọc, phân tích và sửa trực tiếp trọng số của một mô hình khác. Thử nghiệm với Qwen3.5-0.8B cho thấy cách làm này cải thiện đáng kể hiệu suất mà không cần huấn luyện lại theo phương pháp thông thường.

Nhóm gọi kỹ thuật này là Lập trình trong không gian trọng số (Weight-Space Programming). Nếu được phát triển thêm, phương pháp có thể tạo ra một cách mới để tối ưu và tìm hiểu hoạt động của các mô hình AI.

Chỉnh giá trị thay vì huấn luyện lại

Trọng số là những giá trị số điều khiển cách mạng nơ-ron xử lý thông tin và tạo ra kết quả. Thông thường, người ta điều chỉnh chúng trong quá trình huấn luyện. Với phương pháp mới, GPT-6 Astra trực tiếp sửa các giá trị này, thay vì tạo vòng lặp huấn luyện để cập nhật mô hình.

Trong thử nghiệm, nghiên cứu sinh Rikiya Takehi cùng Jayden Teoh, Alex Zhang và Omar Khattab yêu cầu GPT-6 Astra chỉnh trọng số của Qwen3.5-0.8B để mô hình làm toán tốt hơn. Astra chỉ thay đổi 0,016% số trọng số, nhưng giúp điểm trên chuẩn MATH-500 tăng tới sáu lần. Điểm làm theo chỉ dẫn trên chuẩn IFEval cũng tăng khoảng ba lần.

Theo nhóm nghiên cứu, Astra không sử dụng phương pháp giảm độ dốc (gradient descent). Thay vào đó, mô hình suy luận về chức năng của từng phần trong mạng nơ-ron rồi điều chỉnh những giá trị mà nó cho là cần sửa.

Có thể tạo mạng nơ-ron từ đầu

Các nhà nghiên cứu còn yêu cầu Astra viết từ đầu trọng số cho một mạng chính sách để chơi trò Breakout tốt nhất có thể. Astra đã thực hiện được yêu cầu này, cho thấy cách tiếp cận không chỉ giới hạn ở việc chỉnh sửa một mô hình có sẵn.

Takehi cho rằng kỹ thuật này có tiềm năng cải thiện mô hình mà không kéo theo hiện tượng quên thảm họa (catastrophic forgetting), khi việc bổ sung kiến thức mới khiến mô hình mất đi một số năng lực đã học trước đó. Tuy nhiên, đây mới là hướng triển vọng được nêu ra, chưa phải kết luận rằng vấn đề đã được giải quyết.

Nhóm nghiên cứu cũng kỳ vọng phương pháp có thể hỗ trợ diễn giải hoạt động của mô hình, giảm xu hướng tâng bốc người dùng và cải thiện sự phù hợp với mục tiêu đặt ra. Một ứng dụng xa hơn được đề cập là cải tiến AI theo hướng đệ quy, trong đó hệ thống tham gia tối ưu chính các mô hình AI.

Bước tiếp theo là xây dựng bộ chuẩn đánh giá và công cụ thử nghiệm dành riêng cho Lập trình trong không gian trọng số. Theo nhóm, việc chuẩn hóa sẽ giúp biến một kỹ thuật hiện còn khó kiểm chứng thành quy trình có thể đánh giá và tái lập.

Góc nhìn

Với các nhóm phát triển AI, cách tiếp cận này gợi ý một lựa chọn khác ngoài việc huấn luyện lại toàn bộ mô hình: dùng một mô hình ngôn ngữ lớn để phân tích và chỉnh sửa trực tiếp các giá trị bên trong mạng nơ-ron. Nếu được kiểm chứng qua các bộ đánh giá chuẩn hóa, phương pháp có thể giúp việc tối ưu mô hình trở nên linh hoạt hơn.

Dù vậy, kết quả hiện được báo cáo trên một mô hình và các chuẩn đánh giá cụ thể. Các nhà phát triển vẫn cần thêm bằng chứng có thể tái lập để xác định mức độ ổn định, giới hạn và khả năng áp dụng của kỹ thuật trong những trường hợp khác.