Chi phí AI tác nhân (Agentic AI) dự kiến tăng gấp 5 lần vào năm 2028

Theo dự báo mới từ Gartner, chi phí vận hành các hệ thống AI tác nhân sẽ tăng hơn năm lần vào cuối năm 2028. Nguyên nhân chính đến từ sự phức tạp ngày càng lớn của các quy trình làm việc, khiến việc tiêu thụ token tăng vọt, vượt xa mức tiết kiệm từ việc giá model rẻ hơn.

Trong bối cảnh Nvidia và các ông lớn công nghệ khác đang đẩy mạnh quảng bá inference (suy luận) và agentic AI như là giai đoạn tiếp theo của làn sóng AI, Gartner lại đưa ra một cảnh báo trái chiều. Hãng phân tích này cho rằng chi phí triển khai các hệ thống này sẽ tăng cao ngay cả khi các mô hình nền tảng (foundation models) ngày càng rẻ hơn.

Nghịch lý chi phí suy luận

Gartner chỉ ra rằng giá token giảm đang khuyến khích các nhà phát triển xây dựng các quy trình phức tạp hơn. Tuy nhiên, chính sự phức tạp này lại tiêu thụ lượng token lớn hơn nhiều, khiến tổng chi phí inference tăng cao, lấn át mọi lợi ích từ việc giá rẻ hơn.

"Sự khắc nghiệt của nghịch lý chi phí suy luận được minh họa rõ qua sự khác biệt giữa một chatbot đơn giản và một AI tác nhân," Will Sommer, Giám đốc phân tích cấp cao tại Gartner, nhận định.

"Trong khi một chatbot đơn giản chỉ cần đọc, diễn giải truy vấn và nhanh chóng đưa ra câu trả lời hợp lý, một AI tác nhân phải liên tục lý luận, đàm phán và tự vấn," ông giải thích thêm.

Chi phí tiềm ẩn tăng gấp nhiều lần

Theo Gartner, các quy trình xử lý của AI tác nhân phức tạp hơn nhiều so với chatbot. Việc định tuyến một tác vụ đến mô hình lý luận tác nhân (agentic reasoning model) có thể làm tăng chi phí inference ít nhất năm lần, thậm chí cao hơn nữa khi nhiệm vụ trở nên phức tạp.

Để đảm bảo lợi tức đầu tư (ROI), các doanh nghiệp cần:

• Tối ưu hóa quá trình inference, định tuyến và điều phối.
• Gán mỗi tác vụ cho mô hình tiết kiệm chi phí nhất có thể xử lý.
• Tìm kiếm các giá trị lợi ích lớn hơn so với các mô hình cơ bản.

Thêm áp lực từ mô hình thanh toán mới

Việc một số nhà cung cấp AI chuyển từ thuê bao phẳng sang thanh toán theo mức sử dụng (usage-based billing) cũng góp phần làm gia tăng chi phí. Các quy trình tiêu thụ nhiều token có thể dẫn đến chi phí vượt tầm kiểm soát dưới mô hình mới này.

Dự báo u ám cho các dự án AI

Trước đó, Gartner đã dự đoán rằng 40% tổ chức sẽ hạ cấp hoặc ngừng sử dụng AI tác nhân do các vấn đề phát sinh từ công nghệ được thổi phồng quá mức. Hãng cũng cảnh báo ít nhất một nửa số dự án AI tạo sinh sẽ vượt ngân sách do thiết kế kiến trúc kém và thiếu chuyên môn, đồng thời hầu hết các nỗ lực xây dựng mô hình tùy chỉnh sẽ bị bỏ dở.

Đối với thị trường Việt Nam, nơi các doanh nghiệp đang bắt đầu quan tâm đến AI tạo sinh, bài học từ Gartner là cần thận trọng trong việc đầu tư vào agentic AI. Việc đánh giá kỹ lưỡng chi phí vận hành dài hạn so với lợi ích thực tế là vô cùng quan trọng trước khi triển khai ở quy mô lớn. ®