Giải pháp "Học tập Liên tục" cho LLM sử dụng Markdown và Hệ thống Tệp ngữ nghĩa

Một nhà phát triển đã chia sẻ một đề xuất thú vị trên Hacker News nhằm giải quyết vấn đề bộ nhớ dài hạn cho các Mô hình Ngôn ngữ Lớn (LLM). Thay vì phụ thuộc vào các cơ sở dữ liệu phức tạp hoặc tốn kém, giải pháp này tận dụng sức mạnh đơn giản của các tệp Markdown để lưu trữ và truy xuất dữ liệu liên tục một cách hiệu quả.

Cách thức hoạt động của hệ thống

Ý tưởng cốt lõi của dự án này là biến các tệp tin cục bộ thành một hệ thống tệp bộ nhớ (memory filesystem) dành cho AI Agents. Quy trình hoạt động bao gồm việc Agent quét các thư mục quan trọng trên máy tính của người dùng, chẳng hạn như thư mục phiên làm việc (sessions), thư mục Downloads và các dự án đang thực hiện.

Từ dữ liệu thu thập được, hệ thống sẽ tự động xây dựng một cấu trúc thư mục ngữ cảnh tại ~/.codex/user_context/. Cấu trúc này được tổ chức theo phân cấp thời gian logic: Năm -> Quý -> Tháng -> Ngày, giúp việc quản lý thông tin trở nên khoa học và dễ theo dõi.

"Biến các tệp của bạn thành hệ thống tệp bộ nhớ cho AI Agents."

Hệ thống tệp ngữ nghĩa và khả năng truy xuất

Điểm độc đáo nhất của phương pháp này là "hệ thống tệp ngữ nghĩa" (semantic filesystem). Nó cho phép LLM thực hiện tìm kiếm và truy xuất thông tin thông qua các lệnh shell đơn giản như ls.

Ví dụ, khi người dùng đặt câu hỏi: "Tôi đã làm việc trên những gì trong 3 tháng qua?", Agent có thể liệt kê nội dung thư mục tương ứng để tổng hợp thông tin. Câu trả lời trả về có thể là: "Bạn đang tập trung vào cơ sở hạ tầng tác nhân (agentic infrastructure): các hệ thống bộ nhớ, truy xuất ngữ cảnh và các sản phẩm công khai."

Cài đặt và tự động hóa

Hiện tại, dự án đang ở phiên bản v1 sơ khai nhưng tác giả khẳng định nó hoạt động tốt hơn nhiều giải pháp đã thử trước đây. Việc cài đặt được thực hiện thông qua các lệnh codex exec để khởi tạo hệ thống.

Để đảm bảo bộ nhớ của AI luôn được cập nhật, người dùng có thể bật chế độ cập nhật tự động hàng ngày. Hệ thống sẽ sử dụng cron hoặc trình lập lịch của máy chủ để chạy các tệp cập nhật, đồng bộ hóa dữ liệu mới mà không cần can thiệp thủ công, tạo ra một quy trình "học tập liên tục" trơn tru cho AI.