Khảo sát: Mã nguồn AI gây gia tăng lỗi sản xuất và chi phí vận hành

Việc áp dụng nhanh chóng mã nguồn do trí tuệ nhân tạo (AI) tạo ra đang gây ra các sự cố trong môi trường sản xuất và làm tăng chi phí cho các khách hàng doanh nghiệp. Theo một nghiên cứu mới được công bố bởi CloudBees – công ty chuyên về phần mềm giao diện doanh nghiệp – 81% trong số hơn 200 lãnh đạo công nghệ được khảo sát cho biết các vấn đề về sản xuất đã gia tăng và có liên quan đến mã được tạo bởi AI.

Sunil Gottumukkala, CEO của Averlon – một công ty chuyên về khắc phục lỗ hổng bảo mật tự động – cho biết các vấn đề này thường bao gồm lỗi chức năng, vấn đề hiệu suất, sự cố về tính sẵn sàng và các lỗ hổng bảo mật, thay vì chỉ là lỗi trong quy trình CI/CD (Tích hợp liên tục/Triển khai liên tục).

"Đây là những vấn đề xuất hiện sau khi mã đã được triển khai ra môi trường sản xuất, nghĩa là mã đó đã vượt qua mọi cổng kiểm tra và quy trình triển khai nhưng vẫn gây ra sự cố," Gottumukkala nhận định. "Khi lỗi xảy ra sau khi triển khai, điều đó cho thấy quy trình xác thực (validation) hiện tại không theo kịp tốc độ sản xuất của AI."

Mặc dù vậy, 92% người được khảo sát vẫn bày tỏ sự tự tin rằng mã của họ đã sẵn sàng đưa vào sản xuất trước khi xuất xưởng. Jacob Krell, giám đốc cấp cấp về giải pháp AI an toàn và an ninh mạng tại Suzu Labs, cho biết báo cáo không chỉ ra cụ thể thất bại ở đâu, nhưng nó bao trùm các lỗi chức năng, lỗ hổng bảo mật và vi phạm tuân thủ quy định.

Cùng một nghiên cứu cũng chỉ ra rằng 69% người được hỏi trích dẫn các lỗ hổng bảo mật và 63% trích dẫn các vấn đề tuân thủ do mã AI tạo ra. Krell cho rằng điểm chung của các vấn đề này là "khoảng cách xác thực".

"AI tạo mã nhanh hơn khả năng kiểm chứng của các đội ngũ," Krell nói. "70% người được hỏi hiện nay cho biết việc bảo trì bộ kiểm thử (test suite) là một gánh nặng lớn hơn cả việc viết mã. Đây không phải là sự cố hệ thống theo nghĩa truyền thống, mà là toàn bộ các vấn đề xuất hiện trong sản xuất khi khối lượng mã vượt quá khả năng xác thực chất lượng, bảo mật và tuân thủ trước khi triển khai."

Theo khảo sát, 61% mã nguồn của các tổ chức hiện nay được tạo bởi AI hoặc có sự hỗ trợ của AI. Và 64% các tổ chức kỹ thuật cho biết AI đã được tích hợp rộng rãi hoặc hoàn toàn vào quy trình làm việc của họ.

Kết quả là hơn một nửa (52%) số người được hỏi báo cáo sự gia tăng trong sản lượng phát triển phần mềm. Tuy nhiên, mặc dù 68% tổ chức tin tưởng rằng AI đang mang lại giá trị kinh doanh, chỉ có 31% chi phí liên quan đến AI có thể được liên kết trực tiếp với các kết quả kinh doanh cụ thể. Ở 36% tổ chức, chi phí cho AI được theo dõi mà không đo lường lợi nhuận đầu tư (ROI) hoặc hoàn toàn không được theo dõi.

Càng nhiều mã nguồn đồng nghĩa với việc chi phí hạ tầng tăng lên, đặc biệt là cho CI/CD, kiểm thử và quét bảo mật. Khoảng 54% người được hỏi cho biết chi phí hạ tầng CI/CD đã tăng đáng kể trong 12 tháng qua, và 53% báo cáo chi phí kiểm thử, bảo mật và triển khai đang gia tăng.

Chỉ có 45% người được hỏi nói rằng các chi phí này có thể dự đoán được theo từng quý. Tuy nhiên, rất ít tổ chức đã thực hiện các bước để kiểm soát chi phí AI: chỉ 27% báo cáo có hạn ngạch hoặc giới hạn việc sử dụng token, trong khi chỉ 18% có các cơ chế kiểm soát chi phí tự động.

Đáng chú ý, đây là một vấn đề thiếu sự quản lý rõ ràng. Chỉ 12% tổ chức có bộ phận quản trị AI chuyên biệt. Đối với 46% tổ chức, trách nhiệm dừng lại ở CTO hoặc Phó chủ tịch kỹ thuật khi xảy ra sự cố sản xuất. 32% đổ lỗi cho trưởng nhóm kỹ thuật hoặc đội ngũ liên quan đến công cụ gây ra lỗi mã. Chỉ 7% người lập trình viên đã gửi pull request phải chịu trách nhiệm trực tiếp.

Có thể dễ dàng an ủi bản thân bằng thực tế rằng 93% người được hỏi nói tổ chức của họ có quy trình chính thức để xem xét và phát hành mã do AI tạo ra. Tuy nhiên, cần lưu ý rằng chỉ 56% người tham gia khảo sát cho biết các quy trình này luôn được thực thi nghiêm ngặt.