Dự án HydraFusion: Chất lượng tiên phong nhờ điều phối đa mô hình

Trong bối cảnh các mô hình AI ngày càng đa dạng, việc chọn đúng "công cụ" cho từng tác vụ lập trình là một bài toán khó. GitHub vừa giới thiệu Project HydraFusion, một bản xem trước nghiên cứu (research preview) nhằm giải quyết bài toán này bằng cách tự động điều phối nhiều mô hình AI từ các nhà cung cấp khác nhau.

Thay vì chỉ chọn một mô hình duy nhất, HydraFusion xây dựng một kế hoạch thực thi hoàn chỉnh, có thể để một mô hình hiệu quả soạn thảo, một mô hình khác phản biện, hoặc chuyển tiếp lên các mô hình mạnh hơn khi cần thiết. Kết quả thử nghiệm cho thấy chất lượng tương đương hoặc vượt trội so với các mô hình hàng đầu như Claude Opus 5, đồng thời giảm đáng kể chi phí vận hành.

Giải pháp cho bài toán "chọn mô hình"

Trước đây, các nhà phát triển thường phải tự tay điều phối các mô hình khác nhau: chọn một mô hình để code, nhờ mô hình khác review, hoặc nâng cấp lên mô hình mạnh hơn khi gặp tác vụ khó. HydraFusion tự động hóa quy trình này. Người dùng chỉ cần chọn HydraFusion như một mô hình thông thường trong GitHub Copilot, hệ thống sẽ lo phần phức tạp còn lại.

Với mỗi yêu cầu, HydraFusion hiện tại sẽ lựa chọn một trong ba mô hình thực thi (execution patterns):

• Đơn (Single): Một mô hình được chọn sẽ trực tiếp giải quyết tác vụ.
• Thác nước (Cascade): Một mô hình hiệu quả soạn thảo giải pháp và một "cổng chất lượng" quyết định chấp nhận hay nâng cấp lên mô hình mạnh hơn.
• Phản biện (Critique): Một mô hình tạo kết quả, sau đó một "nhà phê bình" độc lập từ một dòng mô hình (model family) khác xem xét và mô hình soạn thảo sẽ chỉnh sửa lại một lần cuối.

Kiến trúc HydraFusion

Kiến trúc HydraFusion cho phép kết hợp nhiều mô hình trong một workflow duy nhất.

Năm nguyên tắc vận hành cốt lõi

Để đảm bảo độ tin cậy, HydraFusion được xây dựng dựa trên năm nguyên tắc chính:

• Hạch toán đầy đủ: Tổng hợp chi phí và mức sử dụng cho mọi bước trong workflow, bao gồm soạn thảo, phản biện, sửa đổi và chuyển tiếp.
• Giới hạn thực thi: Mỗi bước có thời gian chờ và hành vi hủy rõ ràng để kiểm soát chi phí và hiệu suất.
• Phản biện cô lập: Các bước đánh giá chạy trong môi trường không có công cụ, độc lập với môi trường làm việc chính, đảm bảo tính khách quan.
• Áp dụng an toàn: Không áp dụng bản vá nếu workflow bị hủy hoặc không vượt qua kiểm tra, tránh các thay đổi dở dang xâm nhập vào kho mã.
• Định tuyến xác thực: Kiểm tra định nghĩa workflow, liên kết mô hình và khả năng sẵn sàng trước khi thực thi.

Kết quả benchmark ấn tượng

HydraFusion đã được đánh giá trên ba benchmark lập trình tác nhân (agentic coding) khác nhau: TerminalBench 2.1, DeepSWE và CheckpointBench (một benchmark nội bộ dựa trên các phiên GitHub Copilot thực tế). Kết quả được so sánh với hai mô hình mạnh nhất hiện nay là Claude Opus 5 và GPT-5.6 Sol.

Kết quả benchmark của HydraFusion so với Claude Opus 5. (Biểu đồ minh họa)

• Trên TerminalBench 2.1, HydraFusion cải thiện chất lượng tác vụ lên 4,9 điểm phần trăm trong khi chi phí ước tính thấp hơn tới 67% so với Claude Opus 5.
• Trên DeepSWE (các tác vụ kỹ thuật phức tạp ở cấp độ repository), HydraFusion chỉ kém Opus 5 1,5 điểm phần trăm nhưng chi phí thấp hơn 36%.
• Trên CheckpointBench, chất lượng gần như tương đương (kém 0,1 điểm) với mức chi phí thấp hơn tới 65%.

"Cho đến nay, khả năng suy luận và giải quyết tác vụ của HydraFusion đang ở mức tương đương hoặc tốt hơn Opus." – Kỹ sư phần mềm chính tại Microsoft (đánh giá nội bộ)

Phương pháp phát triển "Hill-climbing"

Điểm đặc biệt của HydraFusion là cách các chiến lược định tuyến (routing policies) được tối ưu hóa. Nhóm nghiên cứu đã sử dụng beam search để xây dựng chính sách quyết định tối ưu thay vì chỉnh tay các ngưỡng. Mỗi ứng viên được đo lường trên một nền tảng cố định về chất lượng, chi phí và các lỗi tiềm ẩn.

Quá trình phát triển không hề tuyến tính. Giữa tháng 8, đã có hai lần lỗi kỹ thuật trong hệ thống đánh giá dẫn đến các kết quả không hợp lệ (đã được loại bỏ khỏi phân tích). Tuy nhiên, sau khi sửa lỗi, các cấu hình HydraFusion tiếp tục được cải thiện đều đặn và đạt hiệu suất mạnh nhất vào ngày 25/8.

Trải nghiệm thử nghiệm và tương lai

Hiện tại, HydraFusion đang trong giai đoạn nghiên cứu thử nghiệm. GitHub khuyến khích nhà phát triển dùng thử trên các tác vụ coding cụ thể, có phạm vi rõ ràng trong một câu lệnh duy nhất (single-prompt) ở chế độ autopilot. Phản hồi của người dùng sẽ giúp nhóm phát triển tối ưu hóa thêm cho các phiên làm việc nhiều vòng (multi-turn).

Giao diện lựa chọn mô hình

HydraFusion hiển thị như một lựa chọn mô hình thông thường trong GitHub Copilot.

Dự án này là một bước đi cụ thể trong chiến lược dài hạn của GitHub hướng tới việc định tuyến ngữ nghĩa tự động giữa các mô hình local, cloud và compound. Với sự phát triển không ngừng của các mô hình AI, việc điều phối thông minh sẽ là chìa khóa để mang lại hiệu suất "frontier" với chi phí hợp lý cho mọi nhà phát triển, từ cá nhân đến doanh nghiệp tại Việt Nam và trên toàn thế giới.