Mô hình quyết định như Jev không vượt qua được LLM-as-a-judge hay bộ phân loại truyền thống

Khi các ứng dụng AI tạo sinh trong doanh nghiệp bước vào giai đoạn vận hành thực tế, đội ngũ kỹ sư nền tảng đối mặt với một bài toán cân não: chọn giữa sự linh hoạt của LLM-as-a-judge hay độ tin cậy và khả năng di động của các bộ phân loại truyền thống — vốn đòi hỏi dữ liệu huấn luyện riêng. Sự xuất hiện của "mô hình quyết định" (decision model), tiêu biểu là Jev và dòng System One của TypeSafe AI, được kỳ vọng sẽ lấp đầy khoảng trống ở giữa: thay vì sinh văn bản, chúng đưa ra "quyết định" cố định dựa trên trạng thái và danh sách câu hỏi đầu vào.

Mô hình quyết định hứa hẹn điều gì?

Ví dụ đơn giản nhất về cách dùng mô hình quyết định: bạn đưa vào một trạng thái ("đồng xu không cân đối, mặt ngửa xuất hiện 60% số lần") cùng câu hỏi "lần tung tới sẽ ra mặt ngửa?". Mô hình sẽ trả về một con số xác suất cụ thể, chẳng hạn 0,58, thay vì một đoạn văn giải thích dài dòng.

Cách tiếp cận này mang lại ba lợi ích chính:

• Lược đồ đảm bảo và an toàn kiểu dữ liệu — bạn luôn nhận được giá trị đúng định dạng, ví dụ xác suất luôn nằm trong khoảng 0 đến 1, nên có thể tích hợp thẳng vào ứng dụng mà không cần kiểm tra thủ công.
• Nhanh và rẻ hơn hẳn — vì đầu ra là quyết định chứ không phải chuỗi token sinh dần, chi phí tính toán giảm đáng kể so với dùng LLM cỡ lớn.
• Zero-shot — mô hình xử lý được bài toán mới mà không cần huấn luyện lại, khác hẳn bộ phân loại văn bản cổ điển vốn phải tinh chỉnh trên dữ liệu gán nhãn.

Nhưng liệu đây có thực sự mới?

Điểm đáng nghi ngờ đầu tiên: mô hình quyết định thực chất đã tồn tại nhiều năm dưới tên gọi "bộ phân loại văn bản zero-shot". Điển hình là mô hình BART-large-mnli của Meta từ năm 2019. Nhận định này cũng được Nandakishor Mukkunnoth, tác giả của Laya, đồng tình trong bài viết tháng 9/2026. Bằng chứng rõ ràng nhất là tốc độ xuất hiện của các giải pháp mã nguồn mở thay thế — chẳng hạn vLLM tích hợp DiffusionGemma để cung cấp mô hình quyết định kiểu Jev.

Vậy Jev so với các kỹ thuật sẵn có như thế nào?

Trong lĩnh vực guardrail AI — nơi tồn tại vô số bộ dữ liệu gán nhãn cho đủ loại rủi ro — bạn hoàn toàn có thể huấn luyện bộ phân loại chuyên dụng với chi phí thấp. Đội ngũ Red Hat AI Safety từ lâu đã chủ trương dùng mô hình dự đoán nhỏ cho guardrail, bởi chúng nhanh, rẻ, cho kết quả cố định và đặc biệt là được thiết kế riêng cho từng tác vụ. Đây là lợi thế rõ ràng so với cách tiếp cận zero-shot tổng quát.

Còn với LLM-as-a-judge — phương pháp hiện đại nhất cho guardrail nâng cao? TypeSafe tuyên bố Jev đạt hiệu năng tương đương với chi phí và độ trễ thấp hơn nhiều. Nhưng liệu tuyên bố đó có đứng vững?

Phương pháp thử nghiệm của Red Hat

Red Hat đã dựng 9 giải pháp guardrail ứng viên thuộc 4 nhóm phương pháp:

• Mô hình huấn luyện sẵn quy mô CPU — chạy trực tiếp trên CPU, không cần GPU, chi phí cực thấp.
• Prompt cho Qwen3.6-35B — dùng prompt chuyên biệt để phát hiện prompt injection và nội dung độc hại.
• Prompt cho Nemotron — áp dụng khung chính sách có cấu trúc để đánh giá đầu vào người dùng.
• Laya với chính sách tinh chỉnh — đặt câu hỏi dạng "nội dung này có chứa bạo lực, thù địch, ngôn từ thô tục... không?" và chặn nếu điểm vượt ngưỡng 0,5.

Các tiêu chí đánh giá tập trung vào hai nhóm rủi ro chính: prompt injection (tấn công bằng cách nhúng chỉ thị lạ) và an toàn nội dung (thù địch, bạo lực, nội dung người lớn, hành vi bất hợp pháp).

Kết luận: Jev chưa đủ sức soán ngôi

Kết quả thực nghiệm cho thấy mô hình quyết định kiểu Jev không vượt trội so với cả bộ phân loại truyền thống lẫn LLM-as-a-judge. Trong bối cảnh guardrail, nơi dữ liệu gán nhãn dồi dào và sẵn có, lợi thế zero-shot của Jev bị lu mờ bởi độ chính xác chuyên biệt của các bộ phân loại nhỏ gọn.

Bài học cho các đội kỹ sư tại Việt Nam: đừng chạy theo công nghệ mới chỉ vì tuyên bố marketing. Với guardrail AI, một bộ phân loại nhỏ huấn luyện kỹ trên dữ liệu tiếng Việt thường đáng tin cậy hơn nhiều so với mô hình tổng quát đa năng.

Hướng nghiên cứu tiếp theo

Red Hat đề xuất một số hướng mở rộng đáng chú ý:

• Thử nghiệm các kiến trúc khác cho phân loại kiểu Jev, đặc biệt là những kiến trúc có chiều embedding cao hơn.
• Nghiên cứu ảnh hưởng của việc tinh chỉnh định nghĩa rủi ro đến hiệu năng mô hình.
• Đánh giá thêm các mô hình của OpenAI dùng Decisions API mới ra mắt gần đây.
• Mở rộng thử nghiệm sang các ngôn ngữ khác ngoài tiếng Anh — điều đặc biệt quan trọng với thị trường Việt Nam, nơi các mô hình guardrail quốc tế thường xử lý tiếng Việt kém hơn hẳn.

Với các doanh nghiệp đang triển khai AI tạo sinh, bài học rút ra khá rõ ràng: không có viên đạn bạc trong bài toán guardrail. Mô hình quyết định là một lựa chọn đáng cân nhắc, nhưng chưa đủ để thay thế các phương pháp đã được kiểm chứng.