Giới thiệu Lowfat: Bộ lọc CLI giúp giảm chi phí token AI lên tới 91.8%

Trong bối cảnh các lập trình viên ngày càng phụ thuộc vào các tác nhân AI (AI agents) để hỗ trợ viết mã và vận hành hệ thống, vấn đề tiêu thụ quá nhiều token đang trở thành một gánh nặng về chi phí. Các lệnh như kubectl get -o yaml hay docker ps thường tạo ra hàng ngàn dòng dữ liệu, trong khi thực tế AI không cần tất cả thông tin đó để đưa ra quyết định.

Demo Lowfat

Lowfat là một giải pháp phần mềm mã nguồn mở được tạo ra để giải quyết vấn đề này. Về cơ bản, nó hoạt động như một lớp trung gian giữa shell và tác nhân AI, có nhiệm vụ "lọc bớt chất béo" (lowfat) khỏi các đầu ra dài dòng của dòng lệnh, chỉ giữ lại những thông tin cốt lõi cần thiết.

Hiệu quả tiết kiệm ấn tượng

Theo báo cáo thực tế sau 2 tháng sử dụng cá nhân của tác giả, Lowfat đã giúp tiết kiệm tới 91,8% tổng số token. Các công cụ DevOps phổ biến như kubectl, grep, và docker là những đối tượng được hưởng lợi nhiều nhất từ việc lọc này.

Ví dụ:

• kubectl get: Tiết kiệm 93,9% token.
• grep: Tiết kiệm 96,2% token.
• docker: Tiết kiệm 96,1% token.

Điều này không chỉ giúp giảm chi phí sử dụng các dịch vụ AI như Claude Code hay Bedrock, mà còn giúp tránh việc đạt đến giới hạn token của công ty nhanh chóng.

Các tính năng nổi bật

Lowfat được xây dựng dựa trên triết lý đơn giản nhưng mạnh mẽ:

• Nhẹ nhàng và mở rộng (Lightweight & Extensible): Chỉ là một tệp binary duy nhất với nhân (core) nhỏ gọn. Người dùng có thể viết plugin riêng để tùy chỉnh bộ lọc cho từng lệnh cụ thể mà không cần làm phình tệp cài đặt.
• Ưu tiên quyền riêng tư (Local-first): Không có bất kỳ tính năng telemetry hay thu thập dữ liệu nào. Người dùng hoàn toàn sở hữu dữ liệu của mình.
• Khả năng kết hợp (Composable): Hỗ trợ kiểu đường ống (pipes) của UNIX, cho phép kết hợp các bộ lọc có sẵn (built-in) và bộ lọc tự tạo một cách linh hoạt.
• Tùy chỉnh độ lọc: Người dùng có thể điều chỉnh mức độ "hung hăng" của bộ lọc (từ lite đến ultra) để đảm bảo không cắt mất thông tin quan trọng mà AI cần.

Cài đặt và Sử dụng

Lowfat có thể được cài đặt dễ dàng thông qua Cargo hoặc Homebrew:

cargo install lowfat
# hoặc
brew install zdk/tools/lowfat

Công cụ này hỗ trợ tích hợp sâu với nhiều môi trường phát triển:

• Claude Code: Thêm hook vào file cấu hình .claude/settings.json.
• Shell Integration: Tự kích hoạt trong môi trường tác nhân hoặc bật thủ công.
• OpenCode Plugin: Cài đặt chỉ với một dòng lệnh.

Ngoài ra, bạn cũng có thể sử dụng trực tiếp bằng cách tiền tố lệnh:

lowfat git status
lowfat docker ps

Với Lowfat, các nhà phát triển có thể tiếp tục tận dụng sức mạnh của AI mà không phải lo lắng về việc lãng phí tài nguyên do các dữ liệu thừa từ terminal. Đây là một công cụ hữu ích đáng để thêm vào bộ công cụ của bất kỳ kỹ sư phần mềm nào đang làm việc với AI và DevOps.