OpenAI ra mắt Decisions API: Phân loại văn bản và hình ảnh nhanh gấp 10 lần

OpenAI vừa chính thức giới thiệu Decisions API, một giao diện lập trình mới cho phép đánh giá văn bản, hình ảnh hoặc kết hợp cả hai để trả về câu trả lời có cấu trúc — với tốc độ nhanh gấp 10 lần so với Responses API. API hiện đang trong giai đoạn beta công khai và dự kiến sẽ đạt trạng thái GA (General Availability) trong vài tuần tới.

Minh họa API đưa ra quyết định

Decisions API là gì?

Theo tài liệu từ OpenAI, Decisions API cho phép bạn nhận được ba dạng câu trả lời chính:

• Xác suất một điều kiện nào đó là đúng
• Lựa chọn từ một tập hợp giá trị cố định
• Điểm số đánh giá theo một thang tiêu chí cho trước

Những câu trả lời này có thể được dùng trực tiếp để phân loại nội dung, định tuyến yêu cầu và ưu tiên hóa công việc trong ứng dụng của bạn. Hiện tại, mô hình duy nhất được hỗ trợ là gpt-6-luna, sử dụng endpoint chuyên dụng POST /v1/decisions.

Lập trình viên có thể thử nghiệm Decisions API ngay trong Playground trước khi viết code.

Cách thức hoạt động

Một request của Decisions API gồm ba phần:

• model — Mô hình thực hiện đánh giá. Hiện chỉ hỗ trợ gpt-6-luna.
• input — Bằng chứng dùng chung cho các câu hỏi, có thể là một chuỗi văn bản hoặc tin nhắn người dùng chứa văn bản và hình ảnh.
• questions — Những gì cần đánh giá, bao gồm loại câu hỏi, hướng dẫn, và các lựa chọn hoặc mức điểm được phép.

Phản hồi trả về một mảng answers. Mỗi câu hỏi cần được đặt tên duy nhất để API có thể ánh xạ câu trả lời tương ứng trong phản hồi.

Ba loại câu hỏi

1. Predicate — Kiểm tra một điều kiện như hư hỏng nhìn thấy được hoặc mức độ liên quan của đoạn văn. Kết quả trả về là probability, một con số từ 0 đến 1 thể hiện xác suất điều kiện đó đúng.

2. Choice — Chọn một giá trị từ danh sách bạn cung cấp, ví dụ như bộ phận xử lý hoặc danh mục nội dung. Kết quả trả về là choice — một trong các giá trị bạn đã đặt.

3. Score — Đánh giá đầu vào theo các mức có thứ tự, chẳng hạn như mức độ nghiêm trọng của sự cố. Kết quả là score — trung bình có trọng số xác suất của các chỉ số mức, có thể nằm giữa các mức.

Cả choice và score đều trả về phân phối xác suất trên các lựa chọn rời rạc. Dùng choice cho các danh mục không có thứ tự, và score cho các mức có thứ tự.

Khi ứng dụng của bạn cần tạo một đối tượng theo schema JSON riêng — ví dụ trích xuất trường dữ liệu hoặc viết giải thích — hãy dùng Structured Outputs với Responses API. Còn khi cần mô hình yêu cầu gọi công cụ với tham số, hãy dùng function calling.

Ví dụ về phân loại hình ảnh hư hỏng

Ví dụ thực tế

Kiểm tra hư hỏng trên ảnh sản phẩm

Với câu hỏi kiểu predicate, bạn có thể kiểm tra ảnh sản phẩm xem có vết nứt, rách hay móp không. Request kết hợp hình ảnh (dạng base64) với hướng dẫn cụ thể, và API trả về xác suất như 0.92 — nghĩa là mô hình đánh giá cao khả năng sản phẩm có hư hỏng. Bạn có thể dùng ngưỡng tùy chọn để gắn cờ các ảnh cần xem xét thủ công.

Lưu ý: endpoint này chỉ hỗ trợ ảnh dạng base64 inline data URL. Các URL HTTP/HTTPS được host sẵn và đầu vào file_id không được hỗ trợ.

Định tuyến yêu cầu khách hàng

Với câu hỏi choice, bạn có thể phân loại khiếu nại của khách hàng vào các bộ phận như billing, technical, shipping hay other. Phản hồi bao gồm trường choice (ví dụ "billing") cùng mảng probabilities cho từng lựa chọn và trường confidence. Nên thêm một lựa chọn dự phòng như "other" cho những trường hợp không thuộc danh mục nào.

Chấm điểm mức độ nghiêm trọng

Với câu hỏi score, bạn định nghĩa các mức có thứ tự từ thấp đến cao. Ví dụ với sự cố kỹ thuật: Cosmetic (chỉ ảnh hưởng hình thức), Workaround available (có cách xử lý tạm), Fully blocked (không có cách nào xử lý). Chỉ số mức bắt đầu từ 0, và điểm trả về là trung bình có trọng số xác suất — nên có thể nằm giữa các mức, ví dụ 1.1.

Minh họa các mức đánh giá

Đặt nhiều câu hỏi cùng lúc

Bạn có thể đưa nhiều câu hỏi độc lập vào cùng một mảng questions để đánh giá trên cùng một đầu vào. Ví dụ với một ảnh sản phẩm, bạn vừa kiểm tra hư hỏng vừa phân loại danh mục sản phẩm trong một request duy nhất. Mỗi câu hỏi có thể dùng loại khác nhau.

Tuy nhiên, với những quyết định phụ thuộc vào câu trả lời trước đó, bạn cần gửi các request riêng biệt. Chẳng hạn, kiểm tra hư hỏng trước, rồi dùng kết quả để quyết định có yêu cầu phân loại sửa chữa hay không.

Nên viết câu hỏi xoay quanh các tiêu chí quan sát được. Tách biệt các mối quan tâm khác nhau thành câu hỏi riêng, đặt tên lựa chọn có ý nghĩa rõ ràng, và định nghĩa các mức điểm sao cho hai mức liền kề có tiêu chí khác biệt.

Cách diễn giải câu trả lời

Câu hỏi predicate trả về xác suất ước lượng điều kiện là đúng. Câu hỏi choice và score trả về phân phối xác suất cùng trường confidence riêng. Bạn nên dùng các ví dụ đã gán nhãn từ chính ứng dụng của mình để đặt ngưỡng định tuyến, lọc hoặc xem xét — cân nhắc chi phí của dương tính giả và âm tính giả.

Giá cả và khả năng sẵn có

Với gpt-6-luna, chi phí đầu vào là 0,10 USD cho mỗi 1 triệu token. Điểm đáng chú ý là bạn chỉ trả tiền cho token đầu vào — không có phí đọc cache, ghi cache hay token đầu ra.

Các khoản phụ phí xử lý theo khu vực và hệ số nhân giá cho ngữ cảnh dài vẫn được áp dụng. Decisions API hỗ trợ Zero Data Retention (ZDR) và sử dụng cho mục đích HIPAA với những khách hàng đủ điều kiện. Tính năng lưu trú dữ liệu và xử lý theo khu vực hiện khả dụng ở Hoa Kỳ và châu Âu (EEA + Thụy Sĩ).

Ngoài ra, API còn hỗ trợ điều khiển bằng giọng nói thông qua cơ chế client delegation với Live API, cho phép chọn hành động từ yêu cầu giọng nói và báo cáo kết quả lại cho người dùng.

Ý nghĩa đối với lập trình viên Việt Nam

Sự ra đời của Decisions API đánh dấu xu hướng rõ ràng: các nhà cung cấp AI đang tách biệt mô hình suy luận tổng quát khỏi mô hình ra quyết định chuyên biệt. Với tốc độ nhanh gấp 10 lần và chi phí chỉ tính trên token đầu vào, đây có thể là lựa chọn hấp dẫn cho các ứng dụng cần phân loại quy mô lớn — từ kiểm duyệt nội dung, xử lý đơn hàng thương mại điện tử cho đến định tuyến ticket hỗ trợ khách hàng.

Đối với các startup và đội phát triển tại Việt Nam đang xây dựng sản phẩm tích hợp AI, việc có thêm một API chuyên dụng cho tác vụ phân loại và chấm điểm có thể giúp giảm đáng kể độ trễ và chi phí vận hành so với việc dùng các mô hình ngôn ngữ lớn cho mọi tác vụ.