Gartner: AI và các ông lớn đứng sau nó chưa sẵn sàng cho doanh nghiệp

Theo hãng phân tích Gartner, các công ty phát triển mô hình AI đang đẩy nhanh tốc độ đổi mới đến mức không màng tới việc thay đổi của mình có thể phá vỡ các ứng dụng phụ thuộc. Niềm tin vào những nhà cung cấp này vì thế chưa được đảm bảo, và phần lớn CIO lo ngại rủi ro từ AI đang lớn nhanh hơn giá trị mà nó tạo ra.

Tốc độ đổi mới vượt khỏi tầm kiểm soát

Phát biểu tại IT Symposium thường niên của Gartner được tổ chức tại Australia, hai nhà phân tích cấp cao Daryl Plummer và Kristin Moyer cho rằng AI cùng những người đứng sau nó vẫn còn non nớt.

Khi được hỏi về việc hợp tác với các phòng thí nghiệm AI hàng đầu, Plummer thẳng thắn:

"Niềm tin vào những nhà cung cấp này chưa được đảm bảo. Họ chưa đạt chuẩn doanh nghiệp. Họ không hiểu các điều khoản và điều kiện dành cho doanh nghiệp. Họ không hiểu trách nhiệm pháp lý của doanh nghiệp. Họ không hiểu về tính nhất quán và liên tục."

Ông chỉ ra thực tế các công ty AI thường xuyên thay đổi mô hình mà dường như không quan tâm việc cập nhật đó có thể làm hỏng những ứng dụng phụ thuộc vào chúng.

"Đó là một tốc độ đổi mới nằm ngoài tầm kiểm soát, và điều đáng buồn là bạn không thể không bám theo nó."

Plummer nhấn mạnh vòng đời của một mô hình AI chỉ khoảng sáu tháng, trong khi các công ty AI chưa sẵn sàng hỗ trợ công nghệ cũ.

"Nếu bạn quyết định ở lại với phiên bản đầu tiên của một mô hình, họ sẽ chẳng mấy để tâm đến bạn. Chỉ riêng điều đó cũng cho thấy họ chưa sẵn sàng cho doanh nghiệp."

86% CIO lo ngại rủi ro tăng nhanh hơn giá trị

Moyer dẫn nghiên cứu của Gartner cho thấy 86% CIO nhìn nhận rủi ro do AI tạo ra đang tăng nhanh hơn giá trị mà nó mang lại. Một phần nguyên nhân là những thành công ban đầu với AI lại làm phát sinh nhu cầu sử dụng lớn hơn mức mà bộ phận IT có thể đáp ứng một cách an toàn.

Moyer gọi một phần nhu cầu đó là "tiêu thụ thiếu thận trọng" – khi nhân viên dùng AI một cách phù phiếm, hoặc dùng khi không cần thiết hay không phù hợp. Bà dẫn nghiên cứu cho thấy 40% nhân viên từng gặp phải nội dung rác do AI tạo ra, và việc giải mã loại nội dung này thường tốn khoảng hai giờ — tương đương 9 triệu USD giá trị công việc mỗi năm tại một tổ chức có 1.000 người.

Việc ngăn chặn tình trạng tiêu thụ thiếu thận trọng là rất khó, Moyer thừa nhận:

"Thậm chí rất khó để biết bạn đang có bao nhiêu tác nhân AI. AI đang xâm nhập vào doanh nghiệp của bạn thông qua những sản phẩm bạn đã sở hữu."

Bà cho rằng doanh nghiệp nên học từ kinh nghiệm chục năm cắt giảm sở thích của lập trình viên muốn dùng những phiên bản máy chủ đám mây mạnh nhất và đắt nhất có thể truy cập.

Đừng quên những công nghệ tự động hóa đã được chứng minh

Plummer đưa ra một ví dụ khác về cách kiểm soát việc dùng AI: hãy nhớ tới những công nghệ tự động hóa thay thế đã được chứng minh. Ông cho rằng xây dựng một tác nhân AI để tương tác với cơ sở dữ liệu là điều ngớ ngẩn, bởi một lệnh gọi hàm truyền thống hoàn toàn có thể xử lý tốt công việc đó.

Ông cũng đổ một phần lỗi cho các nhà cung cấp, những người mà theo ông "đang khao khát kiếm tiền từ AI" bằng cách bán cho bạn các sản phẩm có tích hợp AI, hoặc đơn giản là khiến bạn mua thêm token.

"Các nhà cung cấp muốn bạn dùng tác nhân AI ở mọi nơi."

Khi được hỏi về hiệu quả của AIOps – cách các nhà cung cấp dùng tác nhân AI để phát hiện nguồn gốc sự cố và đề xuất cách sửa chỉ bằng một cú nhấp – Plummer cho rằng những sản phẩm này không trung thực.

"Họ đang đi đúng hướng, nhưng sai động cơ. Động cơ của họ là tiếp thị tới bạn và khiến bạn mua sản phẩm của họ, chứ không phải giúp bạn có giải pháp đúng, bởi sản phẩm của họ có thể không phải là giải pháp đúng."

Ông cho rằng hành vi này là điển hình trong chu kỳ bán hàng của công nghệ mới, và đang lặp lại khi các nhà cung cấp tạo ra công cụ quản trị mà họ nói sẽ giúp vận hành AI an toàn. Thị trường cho những sản phẩm đó, theo Plummer, là "một trong những thị trường phân mảnh nhất mà chúng tôi từng thấy."

Ba khuyến nghị để thuần hóa AI

Hai nhà phân tích đưa ra nhiều hành động để kiểm soát AI.

Thứ nhất, thiết lập một "ngân hàng trung ương AI" có trách nhiệm giám sát việc sử dụng AI trên toàn tổ chức, đảm bảo tính lành mạnh lâu dài bằng cách xem xét tác động mang tính hệ thống của công nghệ này. Một vai trò then chốt của ngân hàng trung ương đó là đảm bảo trách nhiệm giải trình — điều dễ thiết lập với các ứng dụng ERP hay CRM truyền thống vốn lưu lại dấu vết kiểm toán về ai đã thực hiện hoặc phê duyệt hành động. AI không phải lúc nào cũng để lại bằng chứng như vậy.

"Không dễ để biết ai sẽ phải vào tù."

Moyer nói đùa như vậy, rồi thêm: "Nếu bạn chưa có hệ thống bằng chứng số cho AI, hãy nghĩ về điều đó."

Thứ hai, dùng "tác nhân giám hộ" – những tác nhân AI chỉ có nhiệm vụ quan sát các tác nhân khác để đảm bảo hành vi của chúng nằm trong giới hạn dự kiến. Theo Plummer, những tác nhân này phải có quyền "tiêu diệt" các tác nhân đi lệch.

Thứ ba, thành lập đội khắc phục thảm họa chuyên xử lý những mớ hỗn độn do AI gây ra.

"Nếu bạn bị bắt phải giải trình và câu trả lời của bạn là 'AI làm điều đó', thì bạn đang gặp rắc rối."

Theo Plummer, các CIO sẽ phải chịu trách nhiệm về những thất bại của AI.

Góc nhìn cho doanh nghiệp Việt Nam

Với các doanh nghiệp Việt Nam đang trong giai đoạn thử nghiệm AI, cảnh báo của Gartner là lời nhắc đáng cân nhắc. Việc chạy theo các mô hình AI mới nhất có thể tạo ra giá trị nhanh chóng, nhưng cũng kéo theo rủi ro về tính liên tục, trách nhiệm pháp lý và chi phí ẩn.

• Ưu tiên giải pháp bài toán trước, công nghệ sau: nhiều tác vụ vẫn được xử lý tốt hơn bằng lệnh gọi hàm truyền thống.
• Xây dựng cơ chế ghi nhận bằng chứng số cho mọi hành động do AI thực hiện.
• Đặt ra giới hạn rõ ràng về số lượng tác nhân AI và phạm vi hoạt động của chúng.
• Chuẩn bị sẵn quy trình khắc phục khi AI gây lỗi, thay vì đối phó tình thế.

Sự trưởng thành của thị trường AI sẽ đến, nhưng theo Gartner, hiện tại cả nhà cung cấp lẫn doanh nghiệp đều còn cách mức "sẵn sàng cho doanh nghiệp" một quãng đường dài.