Giám đốc vận hành Uber: Ngày càng khó biện minh cho chi phí "tối đa hóa token" AI

Giám đốc vận hành Uber: Ngày càng khó biện minh cho chi phí "tối đa hóa token" AI

Andrew Macdonald, Giám đốc vận hành (COO) của Uber, đã đưa ra một nhận định đáng chú ý về làn sóng đầu tư vào trí tuệ nhân tạo (AI) hiện nay. Theo ông, việc biện minh cho số tiền khổng lồ chi ra cho các token AI – hay còn gọi là "tokenmaxxing" – đang ngày càng trở nên khó khăn hơn về mặt tài chính.

Áp lực lên hiệu quả đầu tư (ROI)

Trong bối cảnh các doanh nghiệp đang đua nhau tích hợp AI vào sản phẩm, câu hỏi về chi phí và lợi ích thực sự bắt đầu nổi lên. Thuật ngữ "tokenmaxxing" ám chỉ việc sử dụng quá mức các token của mô hình ngôn ngữ lớn (LLM) để xử lý tác vụ, đôi khi không cần thiết hoặc thiếu tối ưu.

Macdonald cho rằng sự hưng phấn ban đầu đã qua đi và giờ là lúc các công ty phải nhìn nhận thực tế vào bảng cân đối kế toán. Việc triển khai AI không chỉ đơn thuần là thêm tính năng mới, mà phải đảm bảo mang lại giá trị kinh tế cụ thể.

"Việc biện minh cho số tiền chi ra cho các token AI đang ngày càng khó khăn hơn," Macdonald nhấn mạnh, phản ánh tâm lý thận trọng hơn của giới lãnh đạo công nghệ.

Thách thức về chi phí tính toán

Mỗi lần người dùng tương tác với một hệ thống AI (như ChatGPT hoặc các công cụ tương tự), hệ thống phải xử lý hàng loạt token đầu vào và đầu ra. Quá trình này tiêu tốn chi phí tính toán (compute) rất lớn, đặc biệt là khi sử dụng các mô hình cao cấp nhất.

Đối với một nền tảng quy mô lớn như Uber, nơi có hàng triệu yêu cầu mỗi ngày, việc áp dụng AI tùy tiện có thể dẫn đến hóa đơn đắt đỏ mà không đi kèm với hiệu suất hoạt động tương xứng.

Xu hướng tối ưu hóa thay vì chạy theo trào lưu

Nhận định từ vị lãnh đạo của Uber phản ánh một xu hướng rộng lớn hơn trong ngành công nghệ. Thay vì "đốt tiền" cho các API đắt đỏ của bên thứ ba, nhiều công ty đang chuyển hướng sang các giải pháp tiết kiệm hơn:

• Sử dụng các mô hình AI nhỏ hơn (Small Language Models) chuyên biệt hóa cho từng tác vụ cụ thể.
• Tự huấn luyện hoặc tinh chỉnh (fine-tune) các mô hình mã nguồn mở để kiểm soát chi phí hạ tầng.
• Tối ưu hóa quy trình kỹ thuật để giảm số lượng token cần sử dụng cho mỗi yêu cầu.

Điều này cho thấy thị trường AI đang bước vào giai đoạn trưởng thành mới, nơi hiệu quả và lợi nhuận sẽ là thước đo quan trọng nhất thay vì chỉ là sự đổi mới công nghệ thuần túy.