Shev: công cụ ra quyết định một bước, chạy DeepSeek hoặc mô hình AI cục bộ trên Mac

Shev là một công cụ mã nguồn mở mới xuất hiện trên GitHub, hướng tới việc đơn giản hóa quy trình ra quyết định bằng AI. Thay vì dựng cả một hệ thống agent với orchestration và prompt engineering phức tạp, Shev chỉ làm đúng một việc: nhận vào một tin nhắn trọn vẹn và trả ra một quyết định duy nhất dưới dạng JSON có cấu trúc rõ ràng.

Điểm đáng chú ý là công cụ này có thể chạy DeepSeek qua mạng hoặc một mô hình ternary nhỏ chạy cục bộ trên Apple Silicon, cho phép người dùng linh hoạt chuyển đổi giữa hai chế độ tùy nhu cầu về quyền riêng tư và tốc độ.

Giao diện trang chủ của Shev

Triết lý thiết kế: một tin nhắn, một quyết định

Cách tiếp cận của Shev khác biệt rõ rệt so với xu hướng hiện nay là xây dựng các chuỗi agent đa bước. Theo mô tả của tác giả, Shev không chia nhỏ tin nhắn thành từng đoạn, không xử lý theo từng dòng, mà đánh giá toàn bộ nội dung một lần duy nhất.

Kết quả trả về có cấu trúc cố định:

{
  "actionable": "Reply to Sam and cc finance about the overdue March invoice.",
  "take_action": true,
  "confidence": 95,
  "generated_response": "Hi Sam, ... (the reply, written out)"
}

Ba trường chính gồm actionable (chuỗi mô tả hành động), take_action (boolean có cần hành động không) và confidence (số nguyên trong khoảng 34 đến 100). Đáng chú ý, việc bạn muốn làm gì với tin nhắn sẽ định hướng nội dung câu trả lời mà công cụ soạn ra, thay vì áp một khuôn mẫu cố định.

Cài đặt nhanh chóng

Shev có thể cài bằng một dòng lệnh curl hoặc qua npm:

• Cài bằng curl: curl -fsSL https://raw.githubusercontent.com/aditauqir/shev/main/install.sh | bash
• Cài bằng npm: npm install -g @noorslvt/shev
• Cài từ mã nguồn với Rust: cargo install --git https://github.com/aditauqir/shev

Tác giả lưu ý rằng gói npm cần dùng đúng tên @noorslvt/shev, vì tên shev trên registry npm thuộc về một dự án khác không liên quan. Trình cài đặt sẽ ưu tiên dùng bản build sẵn, nếu không có sẽ biên dịch bằng Rust.

Chạy DeepSeek hay mô hình cục bộ?

Shev hỗ trợ hai backend và có thể chuyển đổi bằng phím Ctrl+T hoặc lệnh /model:

• DeepSeek: tùy chọn từ xa, cần API key. Cách này chạy được trên mọi nền tảng mà Rust hỗ trợ.
• Bonsai (mặc định): mô hình ternary nhỏ prism-ml/Ternary-Bonsai-2-2B-mlx-2bit, chạy trên Apple Silicon qua MLX, dung lượng khoảng 1,2 GB.

Điều kiện lý tưởng cho chế độ cục bộ là Mac dùng chip M1 trở lên với 16 GB RAM. Máy 8 GB vẫn chạy được nhưng khá chật vật. Nếu không có Mac, người dùng chỉ cần trỏ Shev vào API key DeepSeek là có thể dùng trên bất kỳ hệ điều hành nào.

Tác giả cũng công bố một thử nghiệm nhỏ về hiệu năng: bản 2-bit gốc đạt khoảng 1,55 ms/đầu ra và 669 ms/quyết định, trong khi bản 4-bit đóng gói lại đạt 2,29 ms và 734 ms. Tuy nhiên tác giả thừa nhận đây chưa phải bằng chứng về độ chính xác tổng quát, và bản 2-bit vẫn được giữ làm mặc định.

Màn hình hiển thị quyết định của Shev

Giao diện TUI và tích hợp MCP

Shev cung cấp giao diện dòng lệnh dạng TUI khá chỉn chu, chia hai khung: bên trái là nội dung mô hình trả về, bên phải là JSON của lượt hiện tại. Người dùng có thể bôi đen để sao chép JSON, cuộn chuột độc lập, hoặc dùng /copy json để lấy toàn bộ bản ghi kể cả phần ngoài màn hình.

Các lệnh đáng chú ý gồm:

• /file để nạp tin nhắn từ tệp, hỗ trợ kéo thả
• /key để nhập hoặc thay API key DeepSeek
• /history để duyệt lại các quyết định trước đó
• /mcp để cài đặt cầu nối MCP cục bộ

Phần MCP (Model Context Protocol) cho phép các trợ lý AI khác như OpenCode hay Codex đọc lại các quyết định đã lưu. Máy chủ MCP của Shev không tự chạy mô hình mà chỉ phục vụ dữ liệu qua stdin/stdout, với các công cụ như list_decisions, latest_decision, get_decision và search_decisions.

Đáng chú ý về mặt an toàn, Shev chỉ cho phép gọi các công cụ MCP được đánh dấu readOnlyHint: true và không có destructiveHint. Các công cụ không rõ nguồn gốc hoặc có khả năng thay đổi dữ liệu sẽ bị chặn thay vì tự động phê duyệt.

Chế độ dòng lệnh cho pipeline

Ngoài TUI, Shev còn có CLI shev-cli hướng tới việc dùng trong đường ống lệnh:

echo "Your invoice is 30 days overdue." | shev-cli -i "draft a polite reminder"

Người dùng có thể đặt biến môi trường như SHEV_RESPONSES_FILE để chỉ định nơi lưu quyết định, hoặc DEEPSEEK_API_KEY để dùng khóa tạm thời. Chân trang hiển thị số token đã dùng và thời gian xử lý của quyết định gần nhất.

Góc nhìn cho người dùng Việt Nam

Với các đội ngũ hỗ trợ khách hàng, vận hành hoặc phát triển phần mềm tại Việt Nam, Shev là một ví dụ thú vị về hướng tiếp cận "AI làm đúng một việc" thay vì cố gắng tự động hóa toàn bộ quy trình. Công cụ phù hợp để thử nghiệm phân loại và phản hồi email, ticket hỗ trợ, hoặc tự động đánh giá tài liệu.

Tuy nhiên người dùng cần cân nhắc: chế độ cục bộ yêu cầu máy Mac cấu hình khá, còn chế độ DeepSeek đồng nghĩa dữ liệu sẽ được gửi lên máy chủ từ xa. Với những tổ chức có yêu cầu nghiêm ngặt về bảo mật dữ liệu, việc chạy mô hình cục bộ là lựa chọn đáng cân nhắc, dù chất lượng đầu ra của mô hình 2B sẽ khó sánh bằng các mô hình lớn.

Shev được phát hành theo giấy phép Apache-2.0, cho phép sử dụng và chỉnh sửa tự do. Đây là một dự án đáng theo dõi với những ai quan tâm đến các công cụ AI gọn nhẹ, dễ tích hợp và minh bạch về cách hoạt động.