Google ra mắt Gemini Decisions API cho quyết định nhanh

Google vừa công bố Gemini Decisions API, một endpoint mới chuyên xử lý các quyết định thuộc tập đóng (closed-set decisions), vận hành trên mô hình Gemini Decision 1 (mã gemini-decision-1). Công cụ này hướng tới bài toán đưa ra lựa chọn nhanh và mang tính xác suất trên nhiều loại dữ liệu khác nhau, thay vì sinh văn bản trả lời như các mô hình ngôn ngữ thông thường.

Điểm đáng chú ý là API có thể đánh giá tối đa 1.000 câu hỏi độc lập trong một lượt xử lý duy nhất, trên cùng một đầu vào đa phương thức gồm văn bản, ảnh, âm thanh, video và PDF (tối đa 256K token). Thay vì giải mã từng token, mô hình chấm điểm các phương án ứng viên và trả về xác suất cùng điểm tin cậy chỉ trong 150-250 ms.

Minh họa kiến trúc xử lý quyết định của Gemini Decisions API

Ba kiểu quyết định trong một lần gọi

Gemini Decision 1 hỗ trợ ba dạng câu hỏi, có thể kết hợp cùng lúc trong một request:

• noul (Có/Không): Ước lượng xác suất một điều kiện đúng hoặc sai, kèm mô tả tiêu chí cho trường hợp đúng và sai.
• choice (Trắc nghiệm): Chọn một trong 2 đến 255 phương án, trả về phương án thắng và xác suất đã chuẩn hóa cho từng ứng viên.
• score (Thang điểm theo thứ tự): Chấm điểm đầu vào theo một thang bậc có sẵn (bắt đầu từ 0), trả về điểm số liên tục và xác suất cho từng mức.

Mọi câu trả lời đều đi kèm điểm tin cậy (từ 0 đến 1), nhờ đó mã nguồn có thể đẩy các trường hợp mơ hồ sang phương án dự phòng hoặc chuyển cho con người kiểm tra. Trường đầu vào dùng chung định dạng Content block với Interactions API.

Ví dụ trong tài liệu, người dùng có thể kiểm tra một bức ảnh quầy bếp kèm ghi chú văn bản để đồng thời xác định có vết tràn chưa lau hay không, chọn hành động dọn dẹp phù hợp và đánh giá mức độ nghiêm trọng — cả ba câu hỏi trong một lần gửi.

Bảng so sánh hiệu năng và độ hiệu chuẩn của mô hình

Hiệu năng và độ hiệu chuẩn

Theo Google, trên các bộ đánh giá bao gồm định tuyến tác nhân (agent routing), suy luận, xếp hạng và hiểu đa phương thức, Gemini Decision 1 dẫn đầu toàn bộ và có sai số hiệu chuẩn (calibration error) thấp nhất.

Độ trễ tính toán của mô hình ở mức trung vị 50-100 ms, tương đương 150-250 ms cho toàn bộ quá trình với đầu vào đa phương thức và ngữ cảnh lên tới 16K token. Đáng chú ý, độ trễ gần như không đổi khi số câu hỏi trong một request tăng từ 1 lên 100.

Về chi phí, mô hình tính 0,10 USD mỗi 1 triệu token đầu vào và 0 USD cho token đầu ra. Do không phải giải mã từng token, Google cho biết giải pháp này rẻ hơn gần 5 lần so với Gemini 3.5 Flash-Lite dùng Interactions API trên cùng bộ đánh giá.

Các nhóm đã ứng dụng ra sao

Ngay trong nội bộ Google, Decisions API đã được dùng như một lớp điều khiển có độ trễ thấp:

• Định tuyến mô hình động trong Gemini Notebook: API đóng vai trò bộ định tuyến thời gian thực, phân loại ý định trong vài mili giây để đưa truy vấn thông thường tới mô hình phù hợp, giúp giảm tới 40% độ trễ, đồng thời dành các mô hình suy luận sâu cho tác vụ phức tạp.
• Lặp thiết kế nhanh trong Stitch: Tính năng rapid canvas tạo wireframe có thể tương tác của một luồng sản phẩm trong vài giây và áp dụng chỉnh sửa bằng giọng nói hoặc thao tác chạm gần như tức thì.
• Chọn biểu cảm emoji trong CC: CC của Google Labs dùng API để chọn đúng emoji phản ứng từ hơn 200 lựa chọn trong tích tắc.
• Lớp bảo vệ cho công cụ MCP trong Search: Google Search dùng Decisions API để phát hiện hành vi và nội dung đối kháng (adversarial) với hiệu quả cao, vẫn nằm trong giới hạn độ trễ cho phép.

Minh họa giao diện ứng dụng quyết định theo thời gian thực

Cách bắt đầu và hệ sinh thái

Nhà phát triển có thể lấy API key trong Google AI Studio để dùng thử ở mức miễn phí, sau đó làm theo hướng dẫn cho Python, JavaScript và REST. Đầu vào dùng chung chỉ bị tính phí một lần cho mỗi request, bất kể số câu hỏi đánh giá; mỗi câu hỏi chỉ cộng thêm token của phần hướng dẫn và tiêu chí riêng. Không có phí token đầu ra, không có hóa đơn token suy luận biến đổi, cũng không tốn thêm chi phí chép lời âm thanh hay OCR.

Ngoài các SDK google-genai, tích hợp đang được triển khai trên OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit và OpenCode, dự kiến hỗ trợ trên Gemini in Google Cloud trong thời gian tới.

Góc nhìn

Với các đội phát triển tại Việt Nam, điểm hấp dẫn nhất của Decisions API nằm ở mô hình chi phí và độ trễ: xử lý một đầu vào đa phương thức với nhiều câu hỏi cùng lúc, không tính phí token đầu ra. Cách này phù hợp cho các lớp kiểm soát như phân loại ý định trước khi gọi mô hình lớn, kiểm tra quy tắc chính sách, định tuyến yêu cầu hay chấm điểm nội dung — những việc trước đây thường phải huấn luyện classifier riêng hoặc chịu thêm một lượt gọi sinh văn bản.

Việc trả về xác suất kèm điểm tin cậy cũng giúp thiết kế luồng xử lý an toàn hơn: các trường hợp mơ hồ có thể tự động chuyển sang phương án dự phòng hoặc con người kiểm duyệt thay vì tin tuyệt đối vào kết quả máy. Dù vậy, đội ngũ kỹ thuật nên đo đạc trên dữ liệu thực tế của mình trước khi thay thế các quy tắc hoặc classifier hiện có, vì hiệu quả phụ thuộc nhiều vào cách viết tiêu chí và cách đặt câu hỏi.