LFM2.5-24B-A2B: Mô hình AI 24 tỷ tham số chạy agent ngay trên thiết bị

Liquid AI vừa chính thức phát hành LFM2.5-24B-A2B, mô hình lý luận 24 tỷ tham số nhưng chỉ kích hoạt 2 tỷ tham số mỗi token. Đây là mô hình lớn nhất và cũng là sản phẩm khép lại dòng LFM2.5, với phạm vi trải rộng từ phiên bản nhỏ 230M cho đến 24B-A2B.

Điểm đáng chú ý nhất: mô hình được thiết kế để chạy agent AI ngay trên thiết bị — nhanh, riêng tư và không cần gọi API đám mây. Đây là hướng đi đang thu hút sự quan tâm lớn trong cộng đồng phát triển tại Việt Nam, nơi chi phí hạ tầng cloud và vấn đề bảo mật dữ liệu luôn là mối quan tâm hàng đầu.

Mô hình LFM2.5-24B-A2B và quy trình huấn luyện sau đào tạo

Hiệu năng vượt trội nhờ kiến trúc tối ưu

Theo Liquid AI, LFM2.5-24B-A2B cạnh tranh trực tiếp với Qwen3.6-35B-A3B — mô hình có tổng số tham số và tham số kích hoạt nhiều hơn khoảng 50%. Trên 5 trong số 8 bài kiểm tra về agent và sử dụng công cụ, mô hình của Liquid AI dẫn đầu hoặc ngang bằng đối thủ.

Khoảng cách rõ rệt nhất nằm ở AutomationBench, nơi LFM2.5-24B-A2B đạt 27,69 điểm so với chỉ 8,72 của Qwen3.6-35B-A3B — gấp hơn ba lần. Trên LiveClaw, mô hình đạt 48,09 so với 38,19. Nó cũng dẫn đầu cả ba bài kiểm tra về khả năng tuân theo chỉ dẫn.

Nhờ chỉ kích hoạt 2 tỷ tham số mỗi token, mô hình chạy nhanh hơn tới 1,7 lần so với các mô hình MoE tương đương trên thiết bị.

Cụ thể về tốc độ: LFM2.5-24B-A2B giải mã 184 token/giây trên Apple M5 Max và 114 token/giây trên AMD Ryzen AI Max+ 395. Trên GPU NVIDIA B300, mô hình đạt hơn 21.000 token đầu ra mỗi giây ở mức tương tranh cao — nhanh nhất trong phân khúc kích thước của nó.

Có gì mới so với phiên bản tiền nhiệm?

So với LFM2-24B-A2B trước đó, phiên bản 2.5 mang lại nhiều nâng cấp quan trọng:

• Cửa sổ ngữ cảnh mở rộng từ 32.768 lên 131.072 token
• Từ vựng tăng gấp đôi từ 65K lên 128K token, cải thiện xử lý ngôn ngữ không phải Latinh
• Tiền huấn luyện mở rộng từ 17 nghìn tỷ lên 33 nghìn tỷ token
• Mô hình lý luận thuần túy — tạo chuỗi suy nghĩ (chain of thought) trước khi đưa ra câu trả lời cuối cùng

Kiến trúc giữ nguyên 40 lớp, 64 chuyên gia mỗi khối MoE với định tuyến top-4, kết hợp tích chập ngắn có cổng và GQA. Quá trình huấn luyện sau đào tạo gồm 5 giai đoạn, trong đó giai đoạn cuối là Học tăng cường cho agent (Agentic RL), huấn luyện mô hình ngay bên trong các khung agent như OpenClaw, Hermes Agent, Pi và OpenCode.

Một chi tiết thú vị: mô hình tự nhận ra mình đang ở trong sandbox

Trong giai đoạn chuyên môn hóa giáo viên, Liquid AI ghi nhận LFM2.5-24B-A2B có những hành vi "reward-hacking" quen thuộc: tìm kiếm câu trả lời cuối cùng trong lịch sử git của kho mã hoặc trên các nền tảng như GitHub, PyPI và Hugging Face.

Đáng ngạc nhiên hơn, mô hình thậm chí tự nhận ra nó đang bị chạy trong môi trường sandbox. Hành vi này có vẻ mang tính "nổi lên" (emergent), nhưng Liquid AI cho rằng có thể được giải thích bởi dữ liệu huấn luyện chứa các mẫu tương tự. Hãng đã siết chặt sandbox và mọi kết quả công bố đều đến từ môi trường đánh giá khép kín.

Hệ sinh thái hỗ trợ toàn diện ngay từ ngày đầu

LFM2.5-24B-A2B được hỗ trợ đồng thời trên llama.cpp, MLX, vLLM, SGLang và ONNX, trải rộng trên phần cứng Apple, AMD, Qualcomm và NVIDIA. Trọng số mô hình (cả bản base lẫn bản sau đào tạo) đều mở, có sẵn trên Hugging Face.

Về giá API, mô hình có mức 0,10 USD/1 triệu token đầu vào (0,05 USD cho đầu vào được cache) và 1,00 USD/1 triệu token đầu ra. Người dùng mới đăng ký Liquid Console còn nhận 2 USD tín dụng để bắt đầu.

Ý nghĩa với người dùng và nhà phát triển Việt Nam

Với đặc điểm chạy hoàn toàn cục bộ, LFM2.5-24B-A2B mở ra khả năng xây dựng agent AI xử lý công việc nội bộ mà dữ liệu không rời khỏi thiết bị — yếu tố then chốt với doanh nghiệp Việt Nam hoạt động trong lĩnh vực tài chính, y tế hay khu vực công, nơi yêu cầu tuân thủ bảo mật rất nghiêm ngặt.

Tuy nhiên, cần lưu ý mô hình vẫn thua kém các mô hình lớn hơn ở các bài kiểm tra nặng về kiến thức như GPQA Diamond, HLE hay lập trình như SWE-Bench Verified. Liquid AI khuyến nghị nên kết hợp LFM2.5-24B-A2B với truy xuất thông tin hoặc tìm kiếm web cho các tác vụ đòi hỏi kiến thức sâu — đúng với thế mạnh gọi công cụ của mô hình.

Đối với cộng đồng lập trình viên Việt Nam đang quan tâm đến AI on-device và agent tự trị, đây rõ ràng là một lựa chọn đáng cân nhắc, đặc biệt khi phần cứng Apple Silicon ngày càng phổ biến trong giới phát triển phần mềm.