OpenRouter giới thiệu Fusion API: Cơ chế đa mô hình nâng cao độ chính xác AI

OpenRouter giới thiệu Fusion API: Cơ chế đa mô hình nâng cao độ chính xác AI

OpenRouter vừa công bố tính năng Fusion API mới, mang đến một cách tiếp cận sáng tạo để xử lý các yêu cầu của người dùng bằng cách sử dụng cơ chế cân nhắc đa mô hình (multi-model deliberation). Thay vì phụ thuộc vào một mô hình đơn lẻ, Fusion huy động một nhóm các mô hình chuyên gia để phân tích vấn đề từ nhiều góc độ khác nhau trước khi đưa ra câu trả lời cuối cùng.

Cơ chế hoạt động của Fusion

Khi được kích hoạt, Fusion sẽ biến một lời nhắc (prompt) đơn lẻ thành một quy trình phân tích phức tạp gồm ba bước chính:

• Phân tích song song: Một hội đồng gồm các mô hình chuyên gia sẽ phân tích lời nhắc của người dùng cùng một lúc. Quá trình này được hỗ trợ bởi khả năng tìm kiếm web và lấy dữ liệu trực tiếp từ internet để đảm bảo tính cập nhật.
• Tổng hợp và đánh giá: Một mô hình "thẩm phán" (judge model) sẽ đóng vai trò tổng hợp các phản hồi từ hội đồng chuyên gia. Nó sẽ đánh giá mức độ đồng thuận, các mâu thuẫn, độ bao phủ của thông tin, những góc nhìn độc đáo cũng như các điểm mù trong dữ liệu.
• Tạo câu trả lời: Dựa trên bản phân tích có cấu trúc ở bước trên, hệ thống sẽ viết ra câu trả lời cuối cùng với độ chính xác và chiều sâu cao hơn so với việc chỉ dùng một mô hình.

Tùy biến và Ứng dụng

Theo mặc định, Fusion sử dụng cài đặt "Quality" (Chất lượng) để lựa chọn các thành viên trong hội đồng chuyên gia. Tuy nhiên, người dùng có thể linh hoạt chuyển sang chế độ "Budget" (Ngân sách) để tiết kiệm chi phí, hoặc tùy chỉnh hoàn toàn danh sách các mô hình tham gia thông qua các trường analysis_models và model trong plugin Fusion.

Tính năng này đặc biệt hữu ích trong các trường hợp như:

• Nghiên cứu chuyên sâu và thu thập thông tin.
• Phê bình chuyên gia hoặc đánh giá sản phẩm.
• Bất kỳ tình huống nào mà chi phí của việc đưa ra thông tin sai lệch lớn hơn chi phí tính toán bổ sung cho các mô hình phụ trợ.

Chi phí và Tích hợp

Do Fusion yêu cầu chạy tất cả các thành viên trong hội đồng cộng thêm một lượt gọi cho mô hình thẩm phán, giá thành dịch vụ sẽ được tính là tổng của tất cả các lần hoàn thành (completions) cơ bản đó. Người dùng có thể xem chi tiết các mô hình đã chạy trong phần Activity (Hoạt động) của OpenRouter.

Về mặt kỹ thuật, API của OpenRouter tương thích với OpenAI. Điều này cho phép các nhà phát triển sử dụng hầu hết các SDK hiện có chỉ bằng cách thay đổi URL cơ sở (base URL) và slug của mô hình, giúp việc tích hợp Fusion vào hệ thống hiện tại trở nên nhanh chóng và thuận tiện.