Anthropic giải thích cách Claude tổ chức ký ức của tác tử AI

Anthropic chia sẻ cách thiết kế bộ nhớ cho tác tử AI Claude: ghi lại kinh nghiệm giữa các phiên, kiểm tra và sửa ghi chú, rồi tổ chức chúng thành những cấu trúc dễ tra cứu. Các thử nghiệm cho thấy mô hình có thể tiến bộ nhờ bộ nhớ, nhưng lưu quá nhiều hoặc giữ thông tin sai cũng khiến nó tốn tài nguyên và đi chệch hướng.

Bộ nhớ là kiến thức được giữ lại giữa các phiên

Anthropic định nghĩa bộ nhớ của tác tử là kiến thức Claude tích lũy từ tương tác với người dùng và các nhiệm vụ được giao, sau đó lưu lại để dùng trong những phiên sau. Khái niệm này không bao gồm việc thay đổi trọng số mô hình, học trong phạm vi một cuộc trò chuyện hay rút gọn ngữ cảnh để tiếp tục làm việc.

Một cách tổ chức được đề xuất là tách việc ghi nhận trải nghiệm khỏi việc củng cố kiến thức. Trong lúc làm việc, tác tử có thể lưu nhật ký hoặc bản ghi cuộc trò chuyện. Khi không có tương tác, mô hình có thể rà soát những dữ liệu đó, sửa sai hoặc tạo ghi chú mới. Anthropic gọi quá trình xử lý ở giai đoạn nghỉ này là “mơ” — một cách dùng năng lực tính toán để sắp xếp lại bộ nhớ.

Claude cũng có thể đánh dấu sự kiện đáng chú ý ngay trong phiên làm việc hoặc ghi chúng vào kho nhớ, chẳng hạn một thư mục chứa các tệp ghi chú. Tuy nhiên, mô hình phải quyết định điều gì đáng lưu dù chưa biết những phiên sau sẽ cần thông tin nào.

Ghi nhớ để dự đoán nhu cầu trong tương lai

Theo Anthropic, bộ nhớ đôi khi là một dạng dự đoán: khi ghi lại một quy tắc hoặc sự thật đã được xác minh, tác tử đang dự đoán rằng phiên làm việc sau sẽ cần đến chúng.

Trong một nhiệm vụ thuộc bộ đánh giá CL-Bench 1.0, Claude phải trả lời các câu hỏi bằng cách tra cứu cơ sở dữ liệu. Sau mỗi câu trả lời, mô hình được cung cấp đáp án đúng và có thể ghi nhớ thông tin để xử lý câu hỏi tiếp theo. Mỗi câu hỏi bắt đầu trong một phiên mới, nhưng Claude được phép truy cập thư mục bộ nhớ dùng chung giữa các phiên.

Các phiên bản mô hình thể hiện những cách học khác nhau. Sonnet 4.6 ghi lại nhiều giả thuyết chưa được kiểm chứng về nguyên nhân trả lời sai. Opus 4.7 gom ghi chú vào một tài liệu tham khảo và phân biệt dữ kiện đã kiểm tra với dữ kiện chưa xác nhận. Sonnet 5 đánh dấu đáp án sau khi được chấm và ghi lại phần sửa chữa nếu mắc lỗi.

Opus 5 là phiên bản đầu tiên trong nhóm khép kín được vòng học hỏi: phần lớn ghi chú chứa quy tắc, căn cứ xác nhận quy tắc, câu trả lời trước đó và cảnh báo về những lỗi dễ mắc. Opus 5.5 và Sonnet 5.5 cũng dùng bộ nhớ để ghi lại các quy tắc đã được kiểm chứng. Khi có bộ nhớ, hai mô hình đạt điểm xấp xỉ Opus 5, dù kết quả ban đầu khi không dùng bộ nhớ của chúng nhỉnh hơn một chút.

Ghi nhớ có chọn lọc hiệu quả hơn lưu mọi thứ

Anthropic đánh giá khả năng chọn thông tin cần lưu qua trò chơi Pokémon Red, một nhiệm vụ đòi hỏi lập kế hoạch trong thời gian dài. Khi chạy khoảng 10.000 bước, Sonnet 3.7 đã tạo 413 tệp trong 225 thư mục và giành một huy hiệu. Mô hình này ghi lại gần như mọi cuộc chạm trán, trận đấu, vật phẩm và nhân vật nó gặp.

Ngược lại, Fable 5 chỉ tạo chín tệp trong hai thư mục, cùng một tệp tổng quan mang tên global.md, nhưng giành được bốn huy hiệu. Tệp tổng quan ghi mục tiêu hiện tại, kế hoạch vượt qua các phòng đấu và quy tắc sử dụng bộ nhớ. Những thư mục khác lưu kế hoạch di chuyển và chiến thuật rút ra từ quá trình chơi.

Sự khác biệt nằm ở loại thông tin được lưu. Trạng thái như số tiền hay vị trí trên bản đồ luôn có thể xem lại trong trò chơi, nên ghi nhớ chúng dễ trở nên dư thừa và nhanh lỗi thời. Ngược lại, chiến thuật, kế hoạch và quy tắc đã được thử nghiệm có thể không xuất hiện sẵn nếu Claude không tự rút ra và lưu lại.

Sau khi nhiều bóng Poké liên tiếp không bắt được Magikarp, Fable 5 ghi lại một quy tắc: nếu thất bại từ ba lần trở lên, hãy thay đổi nhịp thao tác bằng cách chèn thêm lần chờ giữa các bước trong trình đơn. Theo Anthropic, Fable 5 tiến xa hơn Sonnet 3.7 với thư mục bộ nhớ nhỏ hơn. Opus 5.5 cũng dùng cách tiếp cận tương tự và hoàn thành trò chơi.

Hướng dẫn quá chặt có thể làm giảm hiệu quả

Trong thử nghiệm CL-Bench, Anthropic chỉ cần cho Claude biết rằng có một thư mục bộ nhớ để sử dụng. Hướng dẫn khái quát đó đã đủ để Opus 4.7 và Opus 5 sử dụng bộ nhớ hiệu quả và cải thiện kết quả.

Khi yêu cầu mô hình chỉ ghi lại thất bại, Opus 4.7 và Opus 5 mất đi phần lớn lợi ích mà bộ nhớ mang lại. Anthropic cho rằng với các mô hình mạnh hơn, để mô hình tự đánh giá thông tin nào đáng nhớ có thể hiệu quả hơn việc áp đặt một quy tắc cố định.

Hướng dẫn cụ thể vẫn có ích với mô hình cũ hơn. Sonnet 4.6 thường không đọc lại tệp bộ nhớ và không kiểm tra các giả thuyết về nguyên nhân trả lời sai. Khi được nhắc đọc ghi chú trước lúc trả lời và chủ động kiểm tra giả thuyết, điểm đánh giá của mô hình gần như tăng gấp đôi. Sonnet 5 tự đọc bộ nhớ trước khi trả lời trong chín trên mười lần, trong khi Sonnet 4.6 làm vậy chưa đến một nửa số lần.

Rà soát nhật ký giúp sửa ký ức sai

Ghi chú được tạo trong lúc làm việc có thể sai ngay từ đầu hoặc trở nên lỗi thời khi môi trường thay đổi. Quá trình “mơ” cho phép Claude đối chiếu ghi chú với bản ghi phiên làm việc để tìm và sửa lỗi.

Trong Pokémon Red, Claude từng ghi nhầm rằng trung tâm Pokémon nằm ở phía đông núi Moon. Sau khi rời trung tâm, mô hình cho rằng núi đã ở phía sau và cập nhật ghi chú rằng mình đã vượt qua khu vực. Thực tế, Claude đã đi qua một vách một chiều và rơi trở lại tuyến đường cũ.

Anthropic cho Claude rà soát thư mục bộ nhớ cùng bản ghi của phiên trước. Mô hình phát hiện vị trí trung tâm Pokémon bị ghi sai và sửa lại ghi chú. Khi dùng thông tin đã sửa, Claude quay lại hang núi Moon rồi đến được thành phố Cerulean. Trong lượt chạy với ghi chú chưa sửa, Claude rơi về tuyến đường cũ ba lần và không thể vượt qua ngọn núi.

Bản đồ tri thức giúp tra cứu kho tài liệu lớn

Claude có thể dùng quá trình rà soát để tạo một dạng biểu diễn bộ nhớ gọi là wiki: tập hợp các trang do mô hình viết, liên kết kiến thức theo chủ đề và dẫn đến những ghi chú liên quan. Các liên kết này tạo thành một bản đồ giúp mô hình tìm lại thông tin trong kho tri thức ngày càng lớn.

Anthropic thử nghiệm cách này với khoảng 350.000 tài liệu, tương đương khoảng 420 triệu đơn vị từ, của Stainless — một công ty phần mềm được Anthropic mua lại vào tháng 5. Nhóm tạo 25 câu hỏi về kho tài liệu và cho các tác tử Opus 5 xây dựng wiki qua 128 phiên. Các phiên sau dựa trên kết quả của phiên trước, đồng thời bổ sung, sửa trang, gộp nội dung trùng lặp và kiểm tra thông tin theo tài liệu nguồn.

Khi số phiên rà soát tăng từ hai lên 128, tỷ lệ tiêu chí được chấm đạt tăng từ 13% lên 48%. Wiki hữu ích nhất khi kết hợp với công cụ tìm kiếm: điểm tổng hợp tăng từ 54% lên 61% khi wiki được mở rộng, so với 53% khi chỉ dùng tìm kiếm. Dùng cả hai cũng giảm khoảng 20.000 đơn vị từ cần xử lý cho mỗi câu hỏi. Nếu chỉ dùng wiki để trả lời, điểm cao nhất là 48%.

Lợi ích còn tùy loại nhiệm vụ. Trong bài kiểm tra gồm 24 câu hỏi về một thương vụ sáp nhập, hơn một nửa tiêu chí đòi hỏi tổng hợp thông tin từ nhiều tài liệu. Claude đạt 87% khi tham khảo wiki, so với 73% khi chỉ tìm kiếm. Nhưng trong một nhiệm vụ khác, phần lớn tiêu chí có thể được đáp ứng bằng cách tìm trong một tài liệu duy nhất, nên wiki không cải thiện rõ rệt kết quả.

Wiki cũng có thể phình to đến mức lớn hơn chính tập tài liệu gốc mà nó đại diện. Anthropic cảnh báo rằng một bản đồ quá chi tiết sẽ mất tác dụng khái quát hóa, đồng thời tạo thêm chi phí duy trì.

Một thử nghiệm khác dùng bộ đánh giá Harvey LAB về tài liệu liên quan đến sáp nhập. Ban đầu, nhiều tác tử cùng ghi điều khoản hợp đồng vào một bảng chung, khiến một số dữ kiện bị ghi đè hoặc thiếu. Bản wiki chỉ đáp ứng 41 trong 57 dữ kiện được chấm, tương đương 72%. Sau khi điều chỉnh hướng dẫn để mỗi hợp đồng có một trang riêng, do một tác tử viết và trích nguyên văn điều khoản, wiki đáp ứng đủ 57 trên 57 dữ kiện.

Đưa thông tin quan trọng lên đầu phiên

Quá trình rà soát còn có thể đưa một số ghi chú lên tầng bộ nhớ ưu tiên để hệ thống tự nạp chúng vào ngữ cảnh đầu mỗi phiên. Nhờ vậy, Claude không cần tìm kiếm hoặc biết trước rằng có thông tin cần tra cứu.

Cách làm này phải được kiểm soát: thông tin nạp sẵn chiếm dung lượng ngữ cảnh, còn một ghi chú sai có thể lặp lại trong mọi phiên. Tài liệu của Anthropic về Claude Code cũng cảnh báo rằng tệp hướng dẫn dài hơn có thể làm giảm mức độ tuân thủ. Vì vậy, tầng được nạp sẵn cần nhỏ gọn; các chi tiết khác nên được chuyển xuống những tầng bên dưới, kèm liên kết để tìm lại khi cần.

Với bộ nhớ tự động của Claude Code, Claude chỉ nạp 200 dòng đầu tiên hoặc 25 KB đầu tiên của MEMORY.md. Phần đầu này hoạt động như mục lục, cho biết mô hình đã lưu những gì và cần tìm ở đâu.

Anthropic cũng cho biết hướng phát triển của bộ nhớ có thể tùy theo mục tiêu. Chẳng hạn, trợ lý Claude Duet có thể cần sắp xếp ký ức xoay quanh người mà nó hỗ trợ. Trong các nhiệm vụ về hợp đồng, hướng dẫn ưu tiên điều khoản và yêu cầu giữ nguyên văn đã giúp cải thiện độ đầy đủ của tài liệu.

Bộ nhớ vẫn cần được duy trì

Anthropic nêu một số câu hỏi còn bỏ ngỏ: khi nào nên tạo ghi chú, làm sao giữ chúng cập nhật và bao lâu nên rà soát một lần. Ghi thông tin ngay trong phiên giúp dữ liệu sẵn có nhanh chóng, nhưng cũng có thể kéo sự chú ý của mô hình khỏi nhiệm vụ chính. Rà soát sau đó giảm gián đoạn, song thông tin mới có thể chưa được dùng ngay.

Tìm kiếm trong bản ghi phiên có thể là nền tảng cho bộ nhớ, còn wiki và các cấu trúc tương tự có thể giúp truy cập nhanh hơn. Tuy nhiên, chúng cần năng lực tính toán để duy trì và kiểm soát lỗi hoặc thông tin sai tích lũy theo thời gian. Thay vì kiểm tra mọi ghi chú liên tục, hệ thống có thể cần ưu tiên những thông tin dễ thay đổi hoặc điều chỉnh nhịp rà soát theo tần suất sử dụng.

Góc nhìn

Với đội ngũ phát triển tác tử AI, kết quả của Anthropic cho thấy bộ nhớ không chỉ là lưu thêm dữ liệu. Giá trị đến từ khả năng chọn điều cần giữ, xác minh thông tin và tổ chức ghi chú sao cho mô hình truy cập đúng lúc mà không phải xử lý một kho lưu trữ cồng kềnh.

Các thử nghiệm cũng gợi ý rằng có thể bắt đầu bằng hướng dẫn đơn giản, sau đó bổ sung quy tắc theo những lỗi thực tế. Khi dùng bộ nhớ cho công việc dài hạn, doanh nghiệp cần tính đến chi phí rà soát, nguy cơ thông tin lỗi thời và dung lượng ngữ cảnh dành cho dữ liệu được nạp sẵn.