Mô hình AI mở có thể xử lý 90% quy trình tác nhân với chi phí thấp hơn tới 20 lần

Gartner dự báo mô hình có trọng số mở có thể thực hiện 90% các bước trong quy trình tác nhân vận hành của doanh nghiệp vào năm 2030. Theo các nhà phân tích của hãng, những tác vụ lặp lại có thể được xử lý với chi phí thấp hơn nhiều so với việc dùng mô hình AI tiên phong cho mọi bước.

Trong tài liệu mang tên “Mô hình có trọng số mở sẽ vận hành 90% các bước trong quy trình tác nhân doanh nghiệp”, Mark Petty và Raymond Paquet nhận định các mô hình này đã đủ khả năng đảm nhiệm phần lớn công việc thường nhật. Điều đó có thể giúp doanh nghiệp giảm chi phí và duy trì quyền kiểm soát dữ liệu, quy trình.

Phần lớn bước xử lý là tác vụ thường nhật

Quy trình tác nhân là chuỗi công việc trong đó các tác nhân AI thực hiện nhiều bước để hoàn thành một nhiệm vụ. Gartner cho biết quy trình vận hành điển hình có thể gồm hàng trăm thao tác lặp lại, như phân loại, gọi công cụ, chuyển dữ liệu, kiểm tra tính hợp lệ và đối chiếu thông tin.

Theo hai nhà phân tích, mô hình có trọng số mở — mô hình cho phép người dùng tiếp cận các trọng số đã được huấn luyện — có thể xử lý hàng trăm bước thường nhật cho mỗi bước cần khả năng suy luận tiên tiến. Với cùng mức điểm đánh giá, chi phí của mô hình mở bằng khoảng một phần tư mô hình đóng rẻ nhất.

Nếu so với việc dùng mô hình tiên phong ở mọi bước, chi phí trong kịch bản tốt nhất có thể chỉ bằng một phần hai mươi. Tuy nhiên, Gartner lưu ý các mô hình mở hiện nay đôi khi tạo câu trả lời dài hơn và cần thử lại nhiều lần. Vì vậy, mức tiết kiệm thực tế cho mỗi nhiệm vụ so với mô hình tiên phong có thể gần gấp năm hoặc sáu lần.

Lớp điều phối mới là nơi tạo giá trị

Gartner xem khoản tiết kiệm chi phí là lợi ích đi kèm, thay vì mục tiêu duy nhất khi chuyển sang mô hình mở. Các nhà phân tích cho rằng việc gửi từng bước công việc thường nhật đến một dịch vụ mô hình tiên phong bên ngoài có thể đưa một phần quy trình của doanh nghiệp ra khỏi phạm vi kiểm soát nội bộ. Mô hình có trọng số mở giúp doanh nghiệp giữ quyền kiểm soát đó.

Báo cáo dự đoán doanh nghiệp sẽ ưu tiên các mô hình mở chuyên biệt theo lĩnh vực, nhất là trong những quy trình có ít bước ổn định nhưng được thực hiện hàng triệu lần mỗi tháng.

Trong khi đó, nhiều mô hình AI đang trở thành hàng hóa phổ biến. Giá trị trong sản phẩm AI ngày càng nằm ở lớp điều phối tác nhân: hệ thống vận hành và quản lý các tác nhân, đồng thời chuyển mỗi việc đến mô hình phù hợp mà người dùng không phải bận tâm đến quá trình lựa chọn.

Một lớp điều phối tốt có thể giảm chi phí, áp dụng các giới hạn an toàn và quản lý nhiều tác nhân. Nếu lớp này kém hiệu quả, người dùng sẽ phải tự xử lý thêm nhiều việc.

Gartner cho rằng các mô hình tiên phong vẫn giữ vai trò trong nghiên cứu và phát triển, nơi chúng đảm nhiệm phần việc nặng hơn. Sau giai đoạn đó, mô hình có trọng số mở có thể trở thành lựa chọn cho hoạt động vận hành thường xuyên.

Góc nhìn

Với doanh nghiệp và đội ngũ phát triển, kết quả này gợi ý rằng việc chọn mô hình không nên chỉ dựa trên năng lực cao nhất. Phân chia quy trình để giao tác vụ thường nhật cho mô hình mở, còn những bước cần suy luận sâu cho mô hình tiên phong, có thể giúp cân bằng chi phí và hiệu quả.

Lớp điều phối cũng trở thành một thành phần quan trọng cần đầu tư: nó quyết định mô hình nào xử lý từng việc, đồng thời kiểm soát cách các tác nhân hoạt động. Tối ưu riêng mô hình mà bỏ qua khâu điều phối có thể khiến doanh nghiệp không tận dụng được hết lợi ích về chi phí và quyền kiểm soát.