Hybrid Reasoning Agents: Giảm 35–55% token, suy luận nhanh gấp 2,6 lần

Các agent dựa trên mô hình ngôn ngữ lớn (LLM) hiện nay vẫn chủ yếu suy luận và tương tác qua văn bản, trong khi hướng suy luận ẩn (latent reasoning) tuy hiệu quả hơn về mặt tính toán nhưng lại thiếu khả năng gọi công cụ và thiếu tính minh bạch. Một nhóm nghiên cứu vừa công bố trên arXiv đã đề xuất Hybrid Reasoning Agents (HybridAgents) — kiến trúc kết hợp cả hai hướng đi này. Kết quả cho thấy agent mới cải thiện hiệu năng trung bình 10,4%, đồng thời giảm mạnh lượng token và thời gian suy luận.

Bài toán: suy luận ẩn hiệu quả nhưng thiếu công cụ

Các agent LLM hiện đại vẫn "suy nghĩ" và hành động thông qua văn bản. Cách làm này có ưu điểm là minh bạch và dễ tích hợp công cụ, nhưng chi phí token rất lớn, đặc biệt khi agent phải suy luận nhiều bước.

Ngược lại, suy luận ẩn cho phép mô hình tính toán trong không gian biểu diễn nội bộ — nhanh và tiết kiệm hơn nhiều. Tuy vậy, phương pháp này gặp hai hạn chế lớn:

• Không có khả năng gọi công cụ một cách tự nhiên
• Thiếu tính minh bạch, khó kiểm tra quá trình suy luận

HybridAgents được thiết kế để lấp khoảng trống giữa hai hướng tiếp cận này.

Kiến trúc HybridLink và bộ nhớ làm việc liên tục

Điểm cốt lõi của kiến trúc là HybridLink — một thành phần nhẹ cho phép chuyển đổi liền mạch giữa chế độ văn bản và chế độ ẩn trong cùng một quá trình sinh duy nhất.

Bên cạnh đó, agent duy trì một bộ nhớ làm việc liên tục (continuous working memory), giúp bảo toàn ngữ cảnh lai qua nhiều lượt hội thoại mà không bị mất mát thông tin.

Nhờ thiết kế này, agent vẫn giữ được khả năng tích hợp công cụ, đồng thời các "suy nghĩ ẩn" trở nên có thể kiểm tra trực tiếp — điều mà các phương pháp latent thuần túy trước đây không làm được.

Quy trình huấn luyện hai giai đoạn

Nhóm tác giả phát triển riêng các thuật toán hậu huấn luyện (post-training) cho suy luận lai:

• HybridSFT: ổn định quá trình sinh lai có tích hợp công cụ bằng cách dạy mô hình nền phối hợp với HybridLink.
• HybridRL: mở rộng năng lực suy luận, giúp mô hình học được khi nào nên suy nghĩ trong không gian ẩn và khi nào nên hành động qua văn bản.

Kết quả thực nghiệm

Nhóm nghiên cứu đánh giá HybridAgent ở 3 quy mô mô hình trên 11 bộ benchmark, bao phủ các lĩnh vực toán học, khoa học, y học, tìm kiếm và suy luận dạng agent.

So với các LLM Agent tiên tiến và các framework agent hiện có — cả hướng văn bản lẫn hướng ẩn — HybridAgent cho kết quả nhất quán:

• Hiệu năng tăng trung bình 10,4%
• Giảm 35,5%–54,7% lượng token
• Suy luận nhanh hơn 1,8–2,6 lần
• Tiết kiệm chi phí 2,7–3,7 lần

Ý nghĩa với thị trường AI

Chi phí suy luận là một trong những rào cản lớn nhất khi triển khai agent AI ở quy mô thực tế. Mức tiết kiệm 35–55% token và chi phí giảm gần 3–4 lần là con số đáng chú ý với các doanh nghiệp đang cân nhắc đưa agent vào quy trình vận hành.

Với các đội ngũ phát triển tại Việt Nam — nơi bài toán tối ưu chi phí API và hạ tầng thường được ưu tiên — hướng tiếp cận lai này mở ra triển vọng xây dựng agent vừa mạnh về năng lực, vừa tiết kiệm tài nguyên. Dù vậy, cần lưu ý rằng kết quả nghiên cứu mới ở giai đoạn công bố học thuật; việc ứng dụng vào sản phẩm thực tế sẽ còn phụ thuộc vào chất lượng mã nguồn mở và khả năng tích hợp với các mô hình sẵn có.

Mã nguồn và dữ liệu của dự án được công bố công khai, tạo điều kiện để cộng đồng kiểm chứng và mở rộng kết quả.