Trả tiền cho mô hình AI tiên tiến chỉ giúp bạn đi trước 4 tháng, với chi phí gấp 5 lần

Khoảng cách về hiệu năng giữa các mô hình AI tiên tiến của những công ty công nghệ Mỹ và các mô hình mã nguồn mở tốt nhất đến từ Trung Quốc đã thu hẹp chỉ còn 4,4 tháng. Đây là kết luận từ một báo cáo mới của Mozilla, và nó giải thích vì sao ngày càng nhiều doanh nghiệp chuyển sang dùng các mô hình mở có chi phí thấp hơn hẳn cho công việc thường ngày.

Báo cáo cũng giúp làm rõ một nhóm nhỏ các tác vụ mà ở đó mô hình tiên tiến vẫn thực sự xứng đáng với số tiền bỏ ra.

Mô hình mở đã bắt kịp đến mức nào?

Theo báo cáo State of Open Source AI mới nhất của Mozilla, công bố ngày 15/9 và được chia sẻ với Ars trước khi phát hành, hầu hết tổ chức nên dùng mô hình mở làm lựa chọn mặc định cho phần lớn công việc của mình.

Báo cáo nêu bật một ví dụ đáng chú ý: Kimi K3 của Moonshot AI đạt điểm hiệu năng tổng hợp trên Artificial Analysis Intelligence Index chỉ kém mô hình tiên tiến Fable 5 của Anthropic đúng 3 điểm, trong khi chi phí chỉ bằng 30%.

Nói cách khác, phần lớn năng lực mà doanh nghiệp cần đã có sẵn ở các mô hình mở với mức giá dễ chịu hơn nhiều.

Chi phí cao chỉ hợp lý với một số tác vụ

Ông Raffi Krikorian, giám đốc công nghệ của Mozilla, nhận định trong một email gửi Ars rằng mô hình đóng chỉ xứng đáng với mức giá cao hơn ở một vài trường hợp cụ thể.

"Mô hình đóng chỉ xứng đáng với mức giá cao hơn ở một vài chỗ: công việc chuyên môn cao cấp, truy xuất thông tin cường độ cao và ngữ cảnh dài. Chúng tôi xem quyết định trả tiền cho mô hình đóng là tùy theo từng tác vụ, chứ không phải tùy theo từng tổ chức."

Quan điểm này khá thực dụng: thay vì chọn mô hình đóng cho toàn bộ doanh nghiệp, các đội ngũ nên đánh giá riêng từng loại công việc để quyết định có nên trả phí hay không.

Ý nghĩa với doanh nghiệp và người dùng Việt Nam

Với các startup và doanh nghiệp công nghệ tại Việt Nam, đây là một tín hiệu đáng cân nhắc. Chi phí gọi API mô hình AI có thể chiếm phần đáng kể trong ngân sách vận hành, đặc biệt với các sản phẩm phải xử lý khối lượng lớn yêu cầu.

• Dùng mô hình mở làm mặc định cho các tác vụ phổ thông như tóm tắt, phân loại, trả lời khách hàng, sinh nội dung.
• Chỉ trả phí cho mô hình tiên tiến ở những tác vụ thực sự cần độ chính xác cao như phân tích chuyên sâu, tra cứu tài liệu phức tạp hay xử lý ngữ cảnh dài.
• Kiểm tra và so sánh định kỳ, vì khoảng cách hiệu năng chỉ vài tháng và có thể tiếp tục thu hẹp.

Việc chuyển đổi cũng không còn quá khó nhờ các nền tảng trung gian cho phép thay đổi mô hình mà ít phải sửa code, giúp doanh nghiệp linh hoạt hơn trong bài toán chi phí.

Bức tranh lớn

Câu chuyện không còn là "mô hình nào mạnh nhất" mà là "mô hình nào đủ tốt với chi phí hợp lý nhất" cho từng loại công việc. Khi khoảng cách hiệu năng chỉ còn vài tháng trong khi giá chênh lệch gấp nhiều lần, lợi thế của việc trả phí cho mô hình tiên tiến ngày càng thu hẹp vào một số ít tác vụ đặc thù.