GraphRAG với TypeSafe Jev: Hướng tiếp cận System One cho đồ thị tri thức quy mô lớn

Trong bối cảnh các hệ thống AI ngày càng phụ thuộc vào đồ thị tri thức (knowledge graph) để tăng cường khả năng truy xuất, một câu hỏi lớn đặt ra là làm sao mở rộng quy mô mà không đánh đổi tốc độ và chi phí. Bài viết mới đây trên Towards Data Science giới thiệu phương pháp GraphRAG kết hợp TypeSafe Jev, đề xuất tách biệt hai loại nhiệm vụ: quyết định đồ thị tần suất cao do mô hình quyết định đã hiệu chỉnh đảm nhiệm, còn LLM tập trung vào suy luận, tổng hợp và sinh nội dung mở.

Vấn đề: LLM không phù hợp cho mọi quyết định đồ thị

GraphRAG (Graph Retrieval-Augmented Generation) là kỹ thuật kết hợp truy xuất trên đồ thị tri thức với mô hình ngôn ngữ lớn để tạo câu trả lời có ngữ cảnh phong phú. Tuy nhiên, khi đồ thị phình to với hàng triệu nút và cạnh, việc dùng LLM cho mọi bước quyết định — như chọn nút nào để mở rộng, cạnh nào để duyệt, thực thể nào để liên kết — trở nên đắt đỏ, chậm chạp và thiếu ổn định.

Đây là lúc khái niệm System One trong tâm lý học nhận thức được áp dụng vào kiến trúc hệ thống: các quyết định nhanh, lặp đi lặp lại, mang tính "phản xạ" nên do một mô hình nhẹ, đã hiệu chỉnh xử lý — thay vì "lãng phí" năng lực suy luận của LLM.

TypeSafe Jev và mô hình quyết định đã hiệu chỉnh

TypeSafe Jev trong cách tiếp cận này đóng vai trò như lớp đảm bảo kiểu dữ liệu (type safety) cho các quyết định đồ thị. Cụ thể:

• Mỗi quyết định trên đồ thị (thêm cạnh, gộp nút, gán nhãn thực thể) đều phải tuân theo một schema kiểu chặt chẽ, tránh sinh ra cấu trúc đồ thị sai lệch.
• Mô hình quyết định đã hiệu chỉnh (calibrated decision model) cho ra xác suất đáng tin cậy, giúp hệ thống đặt ngưỡng tự động mà không cần con người can thiệp mỗi lần.
• Nhờ xác suất được hiệu chỉnh tốt, các quyết định tần suất cao có thể chạy song song, chi phí thấp và vẫn giữ chất lượng đồ thị ổn định.

Phân chia vai trò: System One và System Two

Bài viết nhấn mạnh sự phân công lao động rõ ràng giữa hai tầng:

Mô hình quyết định đã hiệu chỉnh xử lý các lựa chọn đồ thị tần suất cao, trong khi LLM vẫn đảm nhận suy luận, tổng hợp và sinh nội dung mở.

• Tầng System One (mô hình quyết định): duyệt đồ thị, mở rộng nút, liên kết thực thể, lọc cạnh — tất cả ở tốc độ cao, chi phí thấp.
• Tầng System Two (LLM): suy luận đa bước, tổng hợp thông tin từ nhiều nguồn, viết câu trả lời tự nhiên, xử lý các truy vấn mở.

Cách tách tầng này giúp hệ thống mở rộng quy mô mà không cần gọi LLM cho mỗi thao tác nhỏ — vốn là nguyên nhân chính khiến chi phí GraphRAG truyền thống tăng vọt.

Ý nghĩa với các đội ngũ phát triển tại Việt Nam

Với các startup và đội ngũ kỹ thuật Việt Nam đang xây dựng trợ lý AI, hệ thống tìm kiếm nội bộ hay chatbot doanh nghiệp dựa trên dữ liệu riêng, hướng tiếp cận này mang lại vài gợi ý thiết thực:

• Không nên dùng LLM cho mọi bước — hãy xác định rõ đâu là quyết định lặp lại có thể thay bằng mô hình nhẹ.
• Đầu tư vào schema kiểu chặt chẽ cho đồ thị tri thức ngay từ đầu để tránh nợ kỹ thuật về sau.
• Việc hiệu chỉnh xác suất (calibration) cho mô hình quyết định là yếu tố then chốt để tự động hóa ngưỡng một cách an toàn.

Kết luận

GraphRAG với TypeSafe Jev là một ví dụ điển hình cho xu hướng kết hợp mô hình nhỏ chuyên biệt với LLM trong kiến trúc AI hiện đại. Thay vì kỳ vọng một mô hình ngôn ngữ khổng lồ làm được mọi thứ, cách tiếp cận System One phân chia nhiệm vụ hợp lý — giúp đồ thị tri thức mở rộng quy mô mà vẫn giữ được tốc độ, chi phí và độ chính xác cần thiết.