Δ-Mem: Cơ chế bộ nhớ trực tuyến hiệu quả giúp nâng cao khả năng của Large Language Models

Thách thức về bộ nhớ trong LLM

Các mô hình ngôn ngữ lớn (LLM) ngày càng đóng vai trò quan trọng trong các hệ thống trợ lý và tác nhân AI (agent) dài hạn. Tuy nhiên, một trong những thách thức lớn là khả năng tích lũy và tái sử dụng thông tin lịch sử. Các phương pháp truyền thống thường đơn giản là mở rộng cửa sổ ngữ cảnh (context window), nhưng giải pháp này rất tốn kém về mặt tính toán và thường không đảm bảo hiệu quả sử dụng ngữ cảnh tối ưu.

Giải pháp Δ-Mem là gì?

Để giải quyết vấn đề này, nhóm tác giả đã đề xuất Δ-Mem (Delta-Memory), một cơ chế bộ nhớ siêu nhẹ. Nó hoạt động bằng cách bổ sung một trạng thái bộ nhớ liên kết trực tuyến (online associative memory) nhỏ gọn vào "xương sống" (backbone) của mô hình LLM mà không cần thay đổi cấu trúc gốc của mô hình đó.

Điểm đặc biệt của Δ-Mem là nó hoạt động trên một xương sống có cơ chế chú ý đầy đủ nhưng được đóng băng (frozen full-attention backbone). Điều này có nghĩa là mô hình gốc không cần được huấn luyện lại (fine-tune) hoàn toàn.

Cơ chế hoạt động hiệu quả

Δ-Mem nén thông tin quá khứ vào một trạng thái ma trận kích thước cố định (chỉ là $8\times8$). Trạng thái này được cập nhật thông qua quy tắc học delta (delta-rule learning). Trong quá trình tạo văn bản, Δ-Mem sử dụng thông tin đọc được từ trạng thái này để tạo ra các chỉnh sửa hạng thấp (low-rank corrections) cho tính toán chú ý của xương sống mô hình.

Nhờ đó, mô hình có thể "nhớ" thông tin quan trọng mà không phải xử lý lại toàn bộ lịch sử hội thoại mỗi lần.

Hiệu suất ấn tượng

Kết quả thử nghiệm cho thấy Δ-Mem mang lại hiệu quả vượt trội so với các phương pháp cơ sở (baseline) khác:

• Với chỉ một trạng thái bộ nhớ trực tuyến $8\times8$, Δ-Mem cải thiện điểm số trung bình lên 1,10 lần so với xương sống đóng băng và 1,15 lần so với cơ sở bộ nhớ mạnh nhất không sử dụng Δ-Mem.
• Trên các bài kiểm tra đòi hỏi bộ nhớ nặng (memory-heavy benchmarks) như MemoryAgentBench và LoCoMo, mức cải thiện lần lượt đạt 1,31 lần và 1,20 lần.
• Quan trọng hơn, phương pháp này vẫn giữ nguyên được các khả năng xử lý chung của mô hình.

Kết luận

Δ-Mem chứng minh rằng một bộ nhớ hiệu quả có thể được thực hiện thông qua một trạng thái trực tuyến nhỏ gọn kết hợp trực tiếp với tính toán chú ý. Nó loại bỏ nhu cầu tinh chỉnh toàn bộ mô hình, thay thế xương sống hoặc mở rộng ngữ cảnh một cách rõ ràng, mở đường cho các ứng dụng AI dài hạn tiết kiệm tài nguyên hơn.