OpenAI ra mắt API Decisions trên toàn cầu, cuộc đua mô hình ra quyết định bùng nổ

OpenAI vừa chính thức mở rộng API Decisions cho toàn bộ khách hàng, đánh dấu lần đầu tiên công ty này tham gia thị trường mô hình ra quyết định (decision model) — phân khúc trí tuệ nhân tạo nhanh và rẻ đang thu hút sự chú ý lớn. Động thái này đưa OpenAI vào cuộc cạnh tranh trực tiếp với TypeSafe, startup do một cựu nhà nghiên cứu của chính OpenAI sáng lập, với mô hình Jev từng đưa công ty lên định giá 7,6 tỷ USD.

Jev và làn sóng mô hình "ra quyết định"

Mô hình Jev của TypeSafe đã khai sinh một phạm trù mới: các mô hình học sâu hoạt động như những siêu bộ phân loại (super classifier). Cho trước một tập lựa chọn, chúng nhanh chóng đưa ra quyết định kèm mức độ tin cậy. Giới lập trình viên sớm nhận ra các mô hình "System One" này có thể thay thế LLM trong nhiều quy trình, vừa nhanh hơn vừa rẻ hơn đáng kể.

Nikunj Handa, trưởng nhóm sản phẩm API của OpenAI, cho biết khi xem Jev, các đồng nghiệp của ông đã thốt lên: "Chúng ta có cả triệu trường hợp sử dụng cho thứ này".

Thay vì xây dựng một mô hình ra quyết định được hiệu chỉnh riêng, nhóm của Handa tận dụng ChatGPT Luna và tái cấu hình để tăng tốc suy luận, giảm chi phí. Theo Handa, bước đột phá lớn nhất chính là tốc độ: thời gian phản hồi giảm từ 1–3 giây xuống còn 100–180 mili giây.

Từ bản thử nghiệm đến mở rộng toàn cầu

API Decisions được công bố tại ngày hội nhà phát triển của OpenAI hôm 29/9 và chính thức mở cho tất cả khách hàng vào thứ Năm. Phiên bản công khai bổ sung thêm khả năng giọng nói và hình ảnh, đồng thời tối ưu độ trễ tại nhiều khu vực bằng cách phân bổ tài nguyên suy luận theo địa lý.

Trong các thử nghiệm ban đầu với những khách hàng như Box, Datadog, Ramp và Speak, kỹ sư đã dùng API để thay thế LLM với thông lượng cao hơn. Andrew Hsu, CTO của Speak — đơn vị phát triển gia sư ngôn ngữ AI — cho biết API này giúp giảm thời gian giữa các thao tác từ 1,4 giây xuống 0,13 giây. OpenAI cũng dùng chính sản phẩm để cải thiện độ phản hồi của trợ lý giọng nói Dots.

Bài toán "mô hình ra quyết định tốt" vẫn chưa có lời giải

Hiện vẫn chưa rõ tiêu chí nào tạo nên một mô hình ra quyết định tốt, ngoài câu trả lời đơn giản "nó phù hợp với bạn". Việc tối ưu đồng thời giữa trí tuệ, chi phí, độ hiệu chỉnh và tốc độ dường như phụ thuộc vào từng loại công việc.

Giám đốc điều hành TypeSafe, Diogo Almeida, tỏ ra hoài nghi các bài đo chuẩn và khuyên người dùng tự kiểm nghiệm mô hình trong công việc thực tế. Dù vậy, ngay cả TypeSafe cũng vừa công bố bảng xếp hạng riêng của mình.

Các chỉ số công khai như AIM System One Index và Artificial Analysis Decision Index hiện nghiêng về D1 Ultra mới ra mắt của Liquid và Elephant-1 của Base Lab. Mô hình Jev mới nhất vẫn cạnh tranh, lần lượt đứng thứ bảy và thứ ba, còn Mô hình quyết định của OpenAI xếp thứ tám và thứ mười bốn. Tuy nhiên, các sản phẩm của TypeSafe hiện là những mô hình được truy vấn nhiều nhất trên OpenRouter.

JevMan — bài kiểm tra PacMan thú vị nhất

Điểm thú vị nhất trong các bài đo chuẩn là JevMan, nơi các mô hình ra quyết định chơi trò PacMan. Mô hình Jev mới nhất đang dẫn đầu bảng xếp hạng này.

Felix Wunderlich, giám đốc tăng trưởng của Opper AI — đơn vị xây dựng bài kiểm tra — nhận xét: tựa game kinh điển này là một phép thử hấp dẫn nhờ dòng quyết định nhanh, liên tục và có rủi ro cao. Tại mỗi ngã rẽ, mô hình chỉ có vài trăm mili giây để chọn hướng đi.

Lợi thế đa phương thức của OpenAI

Điểm mà mô hình của OpenAI được cho là có lợi thế chính là khả năng đa phương thức. Với phân loại hình ảnh, Handa khẳng định Luna "cực kỳ mạnh mẽ và cho thấy độ hiệu chỉnh tốt hơn", đồng thời tiết lộ khách hàng muốn API Decisions linh hoạt hơn trong việc dùng hình ảnh làm đầu ra.

Ông cũng kỳ vọng tốc độ tăng thêm sẽ mở ra các trường hợp sử dụng mới: "Liệu có thể đưa thời gian xuống khoảng 60 mili giây, và khi đó bạn có thể tưởng tượng một API được gọi cho từng khung hình trong một video".

Khi các sản phẩm này ngày càng nhanh và rẻ hơn, chúng có thể sống đúng với tên gọi Jev — vốn lấy cảm hứng từ một nhà kinh tế học dự đoán rằng một loại hàng hóa rẻ sẽ ngày càng phổ biến hơn. Hay như Handa nói, đó là "tập hợp những trường hợp sử dụng điên rồ" từng ẩn mình ngay trước mắt cho đến khi các mô hình ra quyết định phơi bày chúng.

Với độc giả Việt Nam, xu hướng mô hình ra quyết định chi phí thấp rất đáng chú ý: các startup và đội phát triển trong nước có thể tận dụng API này để thay thế LLM trong những tác vụ có khối lượng lớn như phân loại nội dung, định tuyến yêu cầu hay điều khiển trợ lý ảo — giúp tiết kiệm chi phí đáng kể khi vận hành ở quy mô lớn.