AI·rete·RAG: Để động cơ luật Rete quyết định, còn RAG giải thích lý do

Trong các hệ thống ra quyết định tự động như xét duyệt khoản vay, phát hiện gian lận hay phân loại bệnh nhân, việc đặt một mô hình ngôn ngữ lớn (LLM) vào vị trí trung tâm rồi mới gắn thêm các lớp "guardrail" thường dẫn đến những rủi ro khó kiểm soát. Một dự án mang tên ai·rete·rag vừa được giới thiệu trên Hacker News với hướng tiếp cận ngược lại: tách bạch hoàn toàn phần ra quyết định và phần giải thích.

Kiến trúc hai tầng: quyết định và diễn giải

Điểm cốt lõi của ai·rete·rag là chạy hai thành phần theo trình tự thay vì để chúng đan xen vào nhau.

• Tầng 1 — Động cơ luật Rete: Một động cơ Rete viết bằng Python thuần đánh giá các luật YAML dựa trên tập dữ kiện đầu vào. Phán quyết chỉ được sinh ra từ đây, với cùng một tập dữ kiện sẽ luôn cho cùng một kết quả. Việc giải quyết xung đột giữa các luật dựa trên cơ chế salience.
• Tầng 2 — RAG và LLM diễn giải: Hệ thống truy xuất các đoạn văn bản từ chính tài liệu chính sách của tổ chức, sau đó LLM viết phần giải thích bằng ngôn ngữ tự nhiên cho quyết định đã được đưa ra, kèm trích dẫn nguồn. LLM không thể thay đổi phán quyết.

Phán quyết đến từ động cơ luật, còn LLM chỉ đóng vai trò diễn giải. Đây là ranh giới được thiết kế có chủ đích.

Những điểm vượt ngoài kỳ vọng của tác giả

Bên cạnh kiến trúc cơ bản, dự án còn có một số tính năng đáng chú ý:

• Luật dạng đồ thị, không phải danh sách phẳng: Hỗ trợ lồng ghép các toán tử all/any/not, và các luật có thể sinh ra dữ kiện mới để luật khác tiêu thụ (forward chaining). Dấu vết quyết định hiển thị chuỗi nhân quả đầy đủ.
• Chế độ kiểm toán: Ghi lại mọi luật đã được đánh giá, kể cả những luật không kích hoạt, theo từng điều kiện, kèm ảnh chụp tập luật để có thể chạy lại (replay).
• Luật điều hướng truy xuất: Một luật đã kích hoạt có thể thu hẹp phạm vi tài liệu được tìm kiếm, và văn bản truy xuất được có thể chuyển thành dữ kiện cho động cơ.
• Trình soạn luật trực quan: Người không có nền tảng kỹ thuật có thể xây dựng luật bằng giao diện kéo thả, hoặc dán một tài liệu chính sách để LLM soạn nháp luật kèm trích dẫn. Bản nháp không bao giờ được lưu nếu chưa qua bước xem xét. Kỹ sư vẫn có thể làm việc trực tiếp với YAML.

Tích hợp và khả năng mở rộng

Trang chủ của dự án có bản demo trực tiếp không cần đăng ký, bao gồm tám lĩnh vực mẫu: cho vay, gian lận, y tế, bảo hiểm, pháp lý, vận hành, thương mại điện tử và blockchain. Ngoài ra còn có một MCP server, cho phép Claude và các tác nhân AI khác gọi endpoint /decide như một công cụ thông qua lệnh uvx ai-rete-rag-mcp.

Tác giả cũng minh bạch rằng đây là sản phẩm dịch vụ có lưu trữ (hosted) với gói miễn phí. Phần MCP client là mã nguồn mở theo giấy phép MIT, trong khi động cơ và nền tảng hiện chưa mở mã nguồn.

Vì sao hướng tiếp cận này đáng quan tâm

Với các tổ chức tài chính và y tế tại Việt Nam đang bước vào giai đoạn số hóa quy trình ra quyết định, yêu cầu về khả năng giải trình ngày càng rõ rệt. Các quy định về bảo vệ dữ liệu cá nhân và hướng dẫn về trí tuệ nhân tạo có trách nhiệm đều hướng tới việc chủ thể bị ảnh hưởng bởi quyết định tự động có quyền được biết lý do.

Việc tách phần quyết định xác định (deterministic) khỏi phần diễn giải bằng LLM mang lại vài lợi ích thực tiễn:

• Khả năng tái lập: Cùng dữ kiện đầu vào luôn cho cùng kết quả, điều kiện tiên quyết để kiểm toán.
• Truy vết đầy đủ: Nhật ký ghi lại cả những luật không kích hoạt giúp trả lời câu hỏi "vì sao không phải kết quả khác".
• Giảm rủi ro ảo giác: LLM không có quyền thay đổi phán quyết, nên hiện tượng bịa đặt chỉ ảnh hưởng đến phần diễn giải chứ không ảnh hưởng đến kết quả nghiệp vụ.

Tác giả dự án đặc biệt mong nhận phản hồi từ những người từng phải giải trình một quyết định tự động trước cơ quan quản lý hoặc kiểm toán viên, với câu hỏi trọng tâm: họ thực sự yêu cầu những gì? Đây cũng là câu hỏi mà nhiều đội ngũ phát triển sản phẩm AI tại Việt Nam nên cân nhắc ngay từ giai đoạn thiết kế, thay vì bổ sung cơ chế kiểm soát sau khi hệ thống đã vận hành.