ThoughtDAG – Đồ thị ngữ cảnh trực quan giúp kiểm soát hoàn toàn hội thoại AI

ThoughtDAG là một ứng dụng mã nguồn mở mới được giới thiệu trên Hacker News, mang đến một cách tiếp cận hoàn toàn khác cho việc tương tác với các mô hình ngôn ngữ lớn (LLM). Thay vì để trí tuệ nhân tạo tự động lựa chọn lịch sử hội thoại một cách ngẫu nhiên, công cụ này cho phép người dùng xây dựng một đồ thị ngữ cảnh có hướng (DAG) trực quan. Từ đó, người dùng có thể chủ động quyết định nhánh thông tin nào sẽ được đưa vào yêu cầu, nhánh nào bị loại bỏ, và xem trước chính xác những gì mô hình sẽ nhận được trước khi tạo câu trả lời.

Vấn đề cốt lõi: Ngữ cảnh ẩn trong hội thoại LLM

Trong các ứng dụng AI trò chuyện thông thường, người dùng thường không biết rõ phần nào của lịch sử trò chuyện được mô hình sử dụng để tạo ra phản hồi. Điều này dẫn đến những hiểu lầm và kết quả khó lường. Nhóm phát triển ThoughtDAG chỉ ra một thử nghiệm quan trọng: với cùng một câu hỏi (prompt) nhưng ngữ cảnh khác nhau, mô hình có thể đưa ra câu trả lời hoàn toàn khác. Sau khi xóa một cạnh (edge) màu cam trong đồ thị, số token giảm đi 47 và kết quả thay đổi dù từ ngữ yêu cầu giữ nguyên. Điều này cho thấy ngữ cảnh bị "ô nhiễm" là một yếu tố quyết định cần được quản lý một cách minh bạch.

ThoughtDAG hoạt động như thế nào?

Ý tưởng cốt lõi của ThoughtDAG là biến cấu trúc hội thoại thành một biểu đồ trực quan với các nút (node) và cạnh (edge) có thể chỉnh sửa được. Hệ thống sẽ đi qua các cạnh đến của một nút, sắp xếp các nút tiền nhiệm có liên quan, rồi xây dựng chuỗi tin nhắn gửi đến mô hình. Cấu trúc này luôn hiển thị, có thể chỉnh sửa và kiểm tra được.

Một số tính năng nổi bật:

• Khám phá song song: Người dùng có thể thử một hướng diễn giải khác mà không làm mất đi con đường dẫn đến kết quả hiện tại.
• Loại trừ có chủ đích: Giữ một nhánh hữu ích trên canvas nhưng loại nó khỏi yêu cầu tiếp theo.
• Hợp nhất suy luận: Kết hợp các bằng chứng và luồng suy luận đã chọn vào một câu trả lời duy nhất.
• Xem trước ngữ cảnh: Kiểm tra chính xác những gì mô hình sẽ nhận, không có bất kỳ lựa chọn bộ nhớ ẩn nào.
• Truy xuất nguồn gốc: Khi đặt câu hỏi từ một đoạn văn hoặc hình ảnh trong tài liệu, nguồn gốc vẫn được giữ nguyên và liên kết.

Kiến trúc kỹ thuật và quyền riêng tư

ThoughtDAG cung cấp hai phiên bản: web app và desktop app. Phiên bản desktop được tích hợp sẵn engine cục bộ, người dùng không cần cài đặt Node.js hay sử dụng terminal. Toàn bộ lịch sử và phiên bản đều được lưu trữ trên GitHub Releases. Điểm đáng chú ý là cả hai phiên bản đều giống nhau về chức năng, và canvas dữ liệu luôn được lưu trên thiết bị của người dùng — không có dữ liệu nào bị gửi lên máy chủ ngoài mô hình AI mà người dùng chọn sử dụng.

Tác động và ý nghĩa cho cộng đồng AI Việt Nam

Với sự phát triển mạnh mẽ của các ứng dụng AI tại Việt Nam, việc kiểm soát ngữ cảnh là một vấn đề mà cả nhà phát triển lẫn người dùng cuối đều quan tâm. ThoughtDAG mang đến một giải pháp mở, minh bạch, phù hợp với xu hướng "AI có thể giải thích được". Các nhà phát triển Việt có thể tham khảo mã nguồn trên GitHub để xây dựng các sản phẩm tương tự, đặc biệt trong lĩnh vực nghiên cứu học thuật, phân tích dữ liệu, hoặc xây dựng các trợ lý ảo cần độ chính xác và khả năng truy vết cao. Dự án hiện đang trong giai đoạn đầu và rất cần sự đóng góp từ cộng đồng để hoàn thiện.

"Cấu trúc luôn hiển thị, có thể chỉnh sửa và kiểm tra được. Lịch sử ở đó, nhưng phần nào sẽ được đưa vào yêu cầu tiếp theo là do bạn quyết định."