Pensieve: Tìm kiếm cục bộ giúp giảm lệnh gọi công cụ và tiết kiệm token cho AI lập trình

Trong bối cảnh các tác nhân AI lập trình ngày càng phổ biến, một vấn đề dai dẳng vẫn chưa được giải quyết triệt để: chúng thường phải grep khắp kho mã nguồn rồi đọc từng tệp một để tìm thông tin cần thiết. Mỗi tệp đọc thêm đồng nghĩa với việc đốt thêm token, tăng chi phí và kéo dài thời gian chờ. Pensieve ra đời như một giải pháp cho bài toán đó.

Pensieve là gì?

Pensieve là một công cụ tìm kiếm cục bộ mã nguồn mở dành cho macOS, hoạt động như một lớp chỉ mục thông minh trên toàn bộ tài liệu, thư mục, kho git và cả các phiên trò chuyện với tác nhân lập trình của bạn.

Điểm đáng chú ý nhất: mọi thứ chạy hoàn toàn trên máy của bạn. Không có tài khoản, không có dịch vụ đám mây, không có dữ liệu nào rời khỏi máy Mac.

Một tìm kiếm. Mọi tệp, kho mã và phiên làm việc.

Cách hoạt động

Người dùng nhấn tổ hợp Control + Shift để mở một bảng kính mờ (glass panel) ngay trên màn hình. Từ đó có thể tìm kiếm theo hai chế độ:

• Theo ngữ nghĩa (by meaning): tìm đúng thứ bạn muốn diễn đạt, kể cả khi tệp không hề chứa từ khóa đó
• Theo từ chính xác (exact words): dùng dấu ngoặc kép để khớp chính xác cụm từ
• Loại trừ: dùng dấu trừ - để loại bỏ một từ hoặc cụm từ
• Thu hẹp phạm vi: dùng cú pháp như kind:code ext:pdf để lọc theo loại tệp, hoặc in: để giới hạn theo thư mục hay kho mã

Kết quả hiển thị kèm ngữ cảnh rõ ràng, cho phép mở tệp, hiển thị trong Finder, sao chép đường dẫn hay xem trên bản đồ — tất cả không cần chạm vào chuột.

Giải quyết điểm yếu cố hữu của tác nhân AI

Đây là phần giá trị nhất đối với cộng đồng lập trình viên. Khi kết nối qua MCP (Model Context Protocol), tác nhân AI chỉ cần đặt một câu hỏi và nhận về đúng những đoạn văn bản quan trọng, kèm số tệp và số dòng cụ thể.

Hãy so sánh hai kịch bản khi tác nhân được hỏi: "Vì sao việc thử lại thẻ tín dụng dừng sau khi bị từ chối?"

Không có Pensieve:

• Grep từ "retry" trong kho mã → 212 kết quả khớp
• Đọc payments/retry.py, payments/gateway.py, billing/invoices.py, tests/test_payments.py…
• Và vẫn còn 36 tệp khác đang chờ
• Tổng cộng: 1 lệnh grep và hơn 40 lần đọc tệp — vẫn chưa tìm ra quy tắc backoff

Có Pensieve:

• Một lệnh tìm kiếm duy nhất: "card retry after decline"
• Kết quả trả về ngay payments/retry.py:42 với nội dung stop on hard_decline, kèm payments/gateway.py:118 và ghi chú từ Incident review.md
• Một lần đọc xác nhận lại là xong
• Tổng cộng: 1 lệnh tìm kiếm và 1 lần đọc

Kết quả đo lường

Tác giả đã chạy đánh giá trên Claude Code với bốn kho mã thực tế, quy mô từ 504 đến 34.847 tệp, tổng cộng 72 tác vụ kiểm thử (chạy hai lần mỗi tác vụ, tức 144 lượt). Các tác vụ này chưa từng được dùng để tinh chỉnh Pensieve.

• 131/144 lượt tìm đúng tệp khi dùng Pensieve, so với 123/144 khi chỉ dùng grep
• Giảm 43% số lệnh gọi công cụ mỗi lần tra cứu: 2,0 lần thay vì 3,4 lần
• Rẻ hơn 18% mỗi lần tra cứu: 0,041 USD thay vì 0,050 USD, và rẻ hơn ở cả bốn kho mã
• Nhanh hơn 21% mỗi lần tra cứu: 8,6 giây thay vì 10,9 giây
• Sử dụng ít hơn 16% token
• Mỗi lần tìm kiếm chỉ mất từ 0,1 đến 0,2 giây

Đáng chú ý là grep vẫn thắng khi tìm thông báo lỗi chính xác, còn Pensieve thắng ở mọi trường hợp còn lại. Script đánh giá được công khai mã nguồn trong thư mục bench/ để ai cũng có thể tự kiểm chứng trên kho mã của mình.

Tính năng quản trị tri thức nhóm

Ngoài tìm kiếm, Pensieve còn cung cấp góc nhìn về ai biết gì trong nhóm:

• Bản đồ sở hữu: mỗi kho mã được vẽ như một bản đồ, kết hợp git blame cho từng dòng để xác định ai viết phần nào, có trọng số theo số dòng còn tồn tại đến nay
• Tri thức chuyên môn: hỏi về một chủ đề (không phải một tệp) và nhận về danh sách những người có code liên quan nhất
• Hoạt động nhóm: những gì mỗi đồng nghiệp đã triển khai trong 90 ngày qua
• Phát hiện lỗ hổng tri thức: cảnh báo những khu vực mà người viết gốc đã không còn hoạt động, kèm gợi ý ai vẫn nắm rõ nhất hiện nay

Ví dụ với một thư mục billing/tax gồm 2.140 dòng: hệ thống chỉ ra rằng 78% code do những người không còn hoạt động ở khu vực này viết, và đề xuất "ghép cặp với Priya trước khi thay đổi quy tắc thuế, đồng thời ghi lại logic làm tròn trong vat.py".

Quyền riêng tư và bảo mật

Đây là điểm mạnh đáng kể so với các giải pháp đám mây:

• Chạy cục bộ hoàn toàn: mô hình embedding và chỉ mục đều nằm trong ~/.pensieve, máy chủ chỉ phục vụ riêng máy Mac này
• Tắt được từng nguồn: tác nhân, thư mục, kho mã và ứng dụng đều có công tắc riêng
• Tự động bỏ qua thông tin nhạy cảm: các tệp xuất từ trình quản lý mật khẩu, khóa, .env và thông tin xác thực không bao giờ được đánh chỉ mục
• AI hoàn toàn tùy chọn: có thể dùng mô hình Qwen 3.5 9B tích hợp, LM Studio, hoặc tắt hẳn

Tương thích và chi phí

Pensieve hoạt động với mọi ứng dụng hỗ trợ MCP, bao gồm Claude Code, Codex, Cursor, Gemini CLI, Windsurf, Claude Desktop và VS Code. Công cụ miễn phí và mã nguồn mở theo giấy phép MIT.

Yêu cầu hệ thống: Apple Silicon, macOS 14 trở lên. Trên Linux và Mac Intel, cùng một lệnh cài đặt sẽ cài phần backend và trình hiển thị trên trình duyệt.

Ý nghĩa với người dùng Việt Nam

Với các nhóm phát triển phần mềm tại Việt Nam — đặc biệt những nhóm làm việc với tác nhân AI qua API tính phí theo token — việc giảm 18% chi phí và 43% số lệnh gọi công cụ là con số không hề nhỏ khi nhân lên theo quy mô. Bên cạnh đó, yếu tố xử lý hoàn toàn cục bộ rất phù hợp với các doanh nghiệp có yêu cầu nghiêm ngặt về bảo mật dữ liệu, vốn không thể đẩy mã nguồn lên dịch vụ bên thứ ba.

Tuy nhiên, hạn chế về nền tảng (chỉ hỗ trợ Apple Silicon cho ứng dụng đầy đủ) có thể là rào cản với nhiều lập trình viên Việt Nam dùng Windows hoặc Linux. Những người này vẫn có thể dùng phần backend nhưng sẽ mất trải nghiệm bảng tìm kiếm tiện lợi.

Công cụ hiện ở phiên bản 0.5.9 và đang được thảo luận sôi nổi trên Hacker News — một tín hiệu cho thấy nhu cầu tối ưu ngữ cảnh cho tác nhân AI đang ngày càng được cộng đồng quan tâm.