Trợ lý AI đề xuất cài gói phần mềm độc hại, kỹ sư suýt làm theo lời khuyên

Một kỹ sư tại công ty tư vấn và phát triển phần mềm Softjourn suýt cài đặt một gói thư viện chứa mã độc sau khi làm theo gợi ý từ trợ lý AI. Rất may, chính sách kiểm tra mã nguồn trên GitHub trước khi cài đặt đã giúp anh phát hiện ra điểm bất thường. Vụ việc một lần nữa gióng lên hồi chuông cảnh báo về chiêu trò "slopsquatting" – tấn công chuỗi cung ứng phần mềm thông qua các tên gói do AI "bịa".

Câu chuyện suýt thành thảm họa

Theo chia sẻ của Sergiy Fitsak, giám đốc điều hành Softjourn, trong quá trình làm việc, một kỹ sư đã yêu cầu trợ lý AI gợi ý một gói thư viện cần thiết cho một tác vụ phổ biến. AI đưa ra cái tên nghe rất "hợp lý" và có định dạng tương tự một thư viện quen thuộc mà đội ngũ đang dùng.

Ở nhiều tổ chức khác, câu chuyện có lẽ đã kết thúc tại đây – lập trình viên sẽ tải và cài đặt gói phần mềm theo đúng lời khuyên của AI. Tuy nhiên, Softjourn có một chính sách bất thành văn mà họ tuân thủ nghiêm túc: kiểm tra lại mọi đề xuất phần mềm từ AI để đảm bảo tính hợp lệ.

Khi lướt qua mã nguồn trên GitHub, kỹ sư này phát hiện gói thư viện có rất ít lượt tải và mới chỉ được tạo ra vài ngày trước. Điều này cực kỳ đáng ngờ.

"Slopsquatting" – Chiêu trò tấn công mới dựa trên lỗ hổng của AI

Theo Fitsak, các cuộc tấn công đã tìm ra cách khai thác triệt để những cái tên gói phần mềm mà mô hình AI "ảo tưởng" (hallucination) tạo ra:

"Vấn đề là các mô hình AI đôi khi tự phát minh ra tên gói nghe có vẻ hợp lý nhưng thực tế không tồn tại – một kiểu mẫu mà các nhà nghiên cứu bảo mật gọi là 'slopsquatting'. Kẻ tấn công đã nắm bắt điều này và đăng ký các gói phần mềm thật với chính những cái tên bịa đặt đó, đặt cược rằng lập trình viên đang áp lực tiến độ sẽ cài đặt trước, kiểm tra sau."

Nếu Softjourn không cẩn thận, họ có thể đã cài gói mã độc vào hệ thống. Hậu quả có thể là kẻ xấu mở backdoor, đánh cắp dữ liệu hoặc gây ra các thiệt hại nghiêm trọng khác.

Bài học: Đừng tin AI một cách mù quáng

Fitsak nhấn mạnh rằng việc xây dựng thói quen kiểm tra là yếu tố then chốt:

"Chúng tôi phát hiện ra vì đã hình thành thói quen xác minh số lượt tải và xem xét mã nguồn trên GitHub trước khi cài bất kỳ thứ gì mà AI đề xuất, ngay cả khi nó trông rất bình thường. Chỉ mất vài phút. Bỏ qua bước đó một lần là cách để cả đội ngũ phải giải trình về một vụ xâm nhập chuỗi cung ứng thay vì kịp phát hành tính năng đúng hạn."

Lời khuyên dành cho cộng đồng lập trình viên Việt Nam

Trong bối cảnh AI ngày càng được sử dụng phổ biến trong quy trình phát triển phần mềm tại Việt Nam, từ startup đến doanh nghiệp lớn, bài học này đặc biệt đáng chú ý. Một số nguyên tắc quan trọng cần tuân thủ:

• Không tin tuyệt đối vào các tên gói thư viện do AI gợi ý, dù chúng nghe có vẻ uy tín.
• Luôn kiểm tra nguồn gốc trên GitHub, NPM, PyPI hoặc kho mã nguồn chính thức trước khi cài đặt.
• Chú ý đến số lượt tải, ngày tạo và tác giả – những dấu hiệu sớm của một gói phần mềm giả mạo hoặc độc hại.
• Thiết lập chính sách "human-in-the-loop" – phải có người chịu trách nhiệm phê duyệt mọi mã nguồn từ bên ngoài trước khi đưa vào dự án.

Thông điệp cuối cùng rất đơn giản: "Đừng tin, hãy kiểm tra" – đặc biệt khi AI đang ngày càng đóng vai trò lớn trong công việc lập trình hàng ngày của chúng ta.