Cloudflare ra mắt mô hình Clef mã mở, thách thức Jev

Cloudflare vừa ra mắt bộ đôi mô hình quyết định mang tên Clef và Clef-flash, chỉ hai tuần sau khi mô hình Jev của TypeSafe gây chấn động giới AI. Điểm đáng chú ý là cả hai đều có trọng số mở, cho phép chạy cục bộ nếu người dùng sở hữu phần cứng đủ mạnh.

Clef là gì và hoạt động ra sao?

Theo công bố ngày thứ Năm của Cloudflare, họ Clef gồm hai phiên bản: Clef đầy đủ và Clef-flash nhỏ gọn, nhanh hơn. Về cơ bản, chúng hoạt động giống Jev khi trả lời ba dạng câu hỏi có cấu trúc: có/không, trắc nghiệm và xếp hạng.

Điểm khác biệt lớn nằm ở kiến trúc. Clef sử dụng backbone LLM với các phiên bản Qwen3.8-27B và Qwen3.5-9B đã được tinh chỉnh và đóng băng, trong đó phần backbone chỉ thực hiện lượt prefill trước khi chấm điểm song song các lựa chọn. Cách làm này giúp Clef đạt tốc độ nhanh hơn Jev, dù kiến trúc bên dưới của Jev vẫn được TypeSafe giữ kín.

Hiệu năng và điểm mạnh so với Jev

Cloudflare tự chạy Clef trên Jev Decision Index có sẵn trên Hugging Face và khẳng định mô hình của mình chính xác hơn các mô hình mở khác, dù tốc độ có phần chậm hơn. Riêng Clef-flash đạt độ chính xác tương đương phần lớn đối thủ nhưng nhanh vượt trội.

Cần lưu ý rằng đây là kết quả do Cloudflare tự công bố và chưa được tái lập trên bảng xếp hạng chính thức của Decision Index.

Trên các benchmark do chính TypeSafe xây dựng, Cloudflare tuyên bố Clef thắng Jev ở ba trong bốn hạng mục, chỉ chịu thua ở khả năng quan sát vết tác nhân (agent trace observability).

Điểm cộng lớn nhất của Clef so với Jev là không giới hạn ở văn bản. Mô hình này còn xử lý được cả hình ảnh và video, đồng thời hỗ trợ cửa sổ ngữ cảnh 64k token.

Chi phí và cách triển khai

Clef có thể dùng trực tiếp qua Workers AI của Cloudflare. Theo công ty, việc chạy trên GPU ở biên giúp giảm độ trễ mạng và đưa ra quyết định nhanh hơn.

Tuy nhiên, chi phí là một rào cản đáng kể:

• Clef: 0,24 USD mỗi triệu token — gần sáu lần giá của Jev ở mức 0,042 USD.
• Người dùng muốn tiết kiệm có thể tải Clef từ Hugging Face với giấy phép Apache-2.0, giống Qwen.

Về yêu cầu phần cứng, bà Michelle Chen — quản lý sản phẩm nhóm Cloudflare AI Platform — cho biết:

• Clef-flash: cần GPU với ít nhất 41 GB VRAM.
• Clef: cần tới 85 GB VRAM.

"Con số này giả định chạy đơn luồng với cửa sổ ngữ cảnh 64k", bà Chen lưu ý thêm.

Một điểm đáng chú ý khác là dù được gọi là "mã mở" trong thông báo, bà Chen xác nhận với The Register rằng bộ dữ liệu huấn luyện không được công khai.

Ý nghĩa cho cộng đồng phát triển

Với API tương thích hoàn toàn với Jev, Clef có thể thay thế trực tiếp trong các hệ thống hiện có mà không cần đổi kiến trúc. Điều này giúp các nhóm phát triển tại Việt Nam dễ dàng thử nghiệm mà ít tốn kém về mặt di trú kỹ thuật.

Tuy nhiên, yêu cầu VRAM cao đồng nghĩa việc chạy cục bộ Clef sẽ nằm ngoài tầm với của hầu hết máy trạm cá nhân. Các doanh nghiệp trong nước muốn triển khai nội bộ nhiều khả năng phải cân nhắc giữa chi phí thuê cloud và đầu tư GPU chuyên dụng.