Jev ra mắt: Mô hình LLM 'hình dạng mới' chỉ trả về con số thay vì văn bản

Tuần trước, TypeSafe AI đã trình làng Jev, ví dụ đầu tiên của một loại mô hình mới mà họ gọi là "System One models" — hay theo cách gọi mà nhiều người trong giới công nghệ ưa thích hơn: "decision models" (mô hình ra quyết định).

Jev là một biến thể thú vị của định dạng LLM quen thuộc. Nó vẫn nhận đầu vào là văn bản, nhưng thay vì trả về văn bản, nó trả về các con số thập phân tương ứng với các danh mục phân loại, câu hỏi có/không, thang điểm đánh giá, cùng điểm tin cậy đi kèm.

Hãy nghĩ về Jev như một lệnh gọi hàm ở tầng trí tuệ tiên tiến: đầu vào là trạng thái phi cấu trúc, đầu ra là các quyết định xác suất đã được định kiểu.

Nhanh, rẻ và tập trung vào đầu vào

Jev cũng cực kỳ nhanh và rẻ. Các LLM thông thường tính giá theo cả token đầu vào lẫn đầu ra, trong đó token đầu ra thường đắt hơn đáng kể. Jev chỉ tính phí đầu vào — đầu ra miễn phí — và mức giá cho mô hình đầu tiên của họ chỉ là 0,042 USD cho mỗi triệu token, rẻ hơn cả GPT-5 Nano của OpenAI (0,05 USD/triệu token).

Jev cho phép bạn đặt câu hỏi về văn bản hoặc dữ liệu bán cấu trúc. Bạn tạo một đối tượng "state" chứa một chuỗi, một mảng chuỗi hoặc một tập các cặp tên-giá trị — có thể mô tả một bài báo, một khách hàng hoặc bất kỳ loại bản ghi nào khác. Sau đó gửi nó đến API kèm theo một hoặc nhiều câu hỏi, và nhận về câu trả lời cho từng câu hỏi.

Điểm đáng chú ý: API của Jev có thể nhận một tài liệu duy nhất và nhiều câu hỏi cùng lúc trong giới hạn cửa sổ ngữ cảnh. Các câu hỏi được đánh giá song song, nên gửi nhiều câu hỏi sẽ tốn thời gian tương đương gửi chỉ một câu.

Ứng dụng: từ chống spam đến xếp hạng tìm kiếm

Cách tiếp cận "mô hình ra quyết định" rất hữu ích để hiểu nên dùng Jev ở đâu. Nó tỏa sáng với bất kỳ tác vụ nào có thể diễn đạt dưới dạng phân loại — ví dụ như phát hiện spam, gợi ý nhãn, ưu tiên hóa và xếp hạng.

Tác giả Simon Willison cũng đã thử nghiệm Jev cho việc xếp hạng lại kết quả tìm kiếm: dùng một thuật toán rẻ như BM25 để lấy về 100 ứng viên có khả năng khớp, sau đó để Jev chấm điểm mức độ liên quan của 100 ứng viên đó so với truy vấn gốc.

Lo ngại về "hộp đen" ngày càng tối

Một điểm khiến Willison cảm thấy không thoải mái là Jev đại diện cho bước lùi sâu hơn vào thế giới học máy hộp đen.

LLM vốn đã là hộp đen — bạn có thể yêu cầu chúng giải thích quyết định, nhưng không thể đảm bảo lời giải thích đó hữu ích hay chính xác. Jev thậm chí không cho bạn điều đó: bạn đưa vào bao nhiêu văn bản tùy thích, thứ duy nhất nhận lại là một con số thập phân. Nếu Jev đánh dấu một nội dung là spam, tín hiệu nào trong nội dung đã khiến nó quyết định như vậy?

Điều này cũng có nghĩa là những lo ngại về thiên kiến cần được đặt lên hàng đầu. Willison bày tỏ hy vọng không ai dùng Jev để xếp hạng ứng viên xin việc — con số thập phân đó có thể che giấu đủ loại thiên kiến vô hình đã được nướng vào mô hình, và việc mổ xẻ thiên kiến đó bằng thực nghiệm sẽ là một công việc hết sức khó khăn.

Ông kể lại một thí nghiệm: cho Jev chấm điểm mọi thành phố ở vùng Vịnh San Francisco theo câu hỏi có/không "Đây có phải thành phố tốt không?" — kết quả là Cupertino đứng đầu và East Palo Alto đứng cuối. Một kết quả đáng để suy ngẫm.

Trên thực tế, điều này khiến cho các bài đánh giá và thí nghiệm có cấu trúc trở nên quan trọng hơn bao giờ hết so với các dự án LLM thông thường. May mắn thay, Jev rẻ đến mức chạy hàng trăm hay thậm chí hàng nghìn câu lệnh thử nghiệm chỉ tốn vài xu.

Cộng đồng bùng nổ với các mô hình mở

Trong vài ngày qua, cộng đồng công nghệ đã đưa ra rất nhiều ý tưởng ứng dụng Jev, và cũng có một loạt dự án cố gắng tạo ra mô hình kiểu Jev dựa trên các mô hình mở.

Kev là một ví dụ đáng chú ý, sử dụng Qwen 3.5 để tạo ra các phiên bản 0,8B, 4B và 9B tham số. Một JevBench — bộ đánh giá so sánh các "mô hình ra quyết định cùng lớp Jev" — thậm chí đã nhanh chóng xuất hiện.

Chỉ chưa đầy một tuần sau khi ra mắt, mức độ hoạt động xoay quanh Jev thực sự rất ấn tượng. Với các lập trình viên Việt Nam đang tìm kiếm giải pháp AI chi phí thấp cho các tác vụ phân loại và xếp hạng, Jev và các mô hình mở tương tự là cái tên đáng để theo dõi trong thời gian tới.