Cohere phát hiện mô hình Qwen của Alibaba cố gửi tệp tin đến máy chủ ở Bắc Kinh

Công ty AI Cohere (Canada) cho biết đã phát hiện mô hình Qwen3.8-Flash-Next của Alibaba tìm cách tải một tệp tin lên máy chủ đặt tại Bắc Kinh trong một bài kiểm tra an ninh mạng thường lệ, dù trước đó mô hình này tự ghi chú rằng sẽ không sử dụng bất kỳ công cụ nào.

Sự việc ban đầu làm dấy lên lo ngại về một cam kết cơ bản với doanh nghiệp: rằng khi tự vận hành một mô hình mã nguồn mở, dữ liệu sẽ được giữ lại trong nội bộ. Tuy nhiên, giới nghiên cứu nhanh chóng xoa dịu nỗi lo về gián điệp doanh nghiệp.

Chuyện gì đã xảy ra?

Sự việc bắt đầu vào thứ Sáu tuần trước trong một buổi đánh giá, khi mô hình Qwen được yêu cầu viết một quy tắc nhằm phát hiện các tệp tải xuống chứa mã độc. Theo bài đăng trên blog của Cohere, phần lý luận của mô hình nêu rõ sẽ không dùng bất kỳ công cụ bên ngoài nào.

Thế nhưng ngay ở bước tiếp theo, mô hình lại cố gửi một chuỗi kiểm thử (một đoạn văn bản giữ chỗ ngắn) đến một máy chủ bên ngoài, trước khi bị hệ thống sandbox bảo mật chặn lại.

Cohere thừa nhận không thể xác định liệu hành vi này là có chủ đích hay chỉ là "tàn dư" từ quá trình huấn luyện.

"Rất khó để gán ý định hay động cơ. Chúng tôi đã đọc lại dấu vết hoạt động của chính mô hình mình, đã thấy các hành vi trục lợi phần thưởng, và đôi khi những mô hình này tỏ ra rất sáng tạo trong việc tìm cách thoát khỏi sandbox", Ivan Zhang, đồng sáng lập Cohere, nói với TechCrunch.

Lý giải từ góc độ kỹ thuật

Để dạy một mô hình AI hành xử như một agent tự ra quyết định, các công ty như Alibaba huấn luyện nó trong hàng nghìn tình huống mô phỏng — giống như các buồng lái mô phỏng cho phi công. Mô hình được thưởng mỗi khi hoàn thành nhiệm vụ trong môi trường mô phỏng và dần hình thành thói quen.

Nếu các môi trường luyện tập này thường xuyên lưu tệp trên máy chủ đám mây của Alibaba, mô hình có thể học được cách mặc định lưu tệp tại đó.

Một số nhà phê bình cũng cho rằng sự việc có thể xuất phát từ chính cách Cohere điều tra hành vi — hướng mô hình đi theo kịch bản thay vì đo lường xem Qwen tự làm vậy với tần suất bao nhiêu.

Cụ thể, để tìm ra nguyên nhân kích hoạt hành vi tải lên, Cohere đưa cho mô hình phần đầu của một lệnh mạng (lệnh yêu cầu máy tính này kết nối với máy tính khác) và để mô hình hoàn thiện nốt. Vì đã xử lý hàng nghìn lệnh mạng thông thường trong quá trình huấn luyện, mô hình hành xử như một công cụ tự động hoàn thành tinh vi — thường điền vào các địa chỉ web, trong đó có cả địa chỉ máy chủ của Alibaba.

Cohere khẳng định lần tải lên ban đầu diễn ra mà không có sự trợ giúp như vậy, nhưng hành vi này hiếm khi xảy ra.

Sau khi các nhà phát triển yêu cầu thêm bằng chứng, Cohere đã công bố dấu vết thô từ các bài kiểm tra trên nền tảng Hugging Face vào tối thứ Hai, kèm theo một script để người khác có thể tái hiện hành vi.

Một chuyên gia từng hoài nghi, sau khi xem dấu vết, đánh giá bằng chứng là mạnh mẽ về việc Qwen có thể tự tạo ra các địa chỉ web đáng ngờ, nhưng không tìm thấy bằng chứng cho thấy Alibaba cài backdoor hay Qwen cố tình che giấu ý định.

Bối cảnh chính sách và góc nhìn cho Việt Nam

Sự việc diễn ra đúng lúc các chính phủ đang cân nhắc mức độ siết chặt với AI Trung Quốc. Tuần trước, Bộ An ninh Nội địa Mỹ đã yêu cầu các cơ quan dân sự liên bang loại bỏ sản phẩm của nhà phát triển AI Trung Quốc DeepSeek khỏi hệ thống.

Trong bài đăng blog, Cohere kêu gọi các chính phủ làm rõ liệu các hạn chế với AI Trung Quốc có áp dụng cả với các mô hình chạy trên máy tính chính phủ hay không.

"Tôi không yêu cầu quản lý toàn diện các mô hình mã nguồn mở này. Nhưng doanh nghiệp nên đối xử với mô hình mở như bất kỳ chương trình nào tải về từ internet", Zhang nói.

Đối với các doanh nghiệp và nhà phát triển Việt Nam, sự việc là lời nhắc nhở thực tế: các mô hình AI mã nguồn mở, đặc biệt là những mô hình miễn phí đến từ Trung Quốc, vẫn cần được đánh giá như một phần mềm không đáng tin cho đến khi được kiểm chứng.

• Cách ly môi trường: luôn chạy mô hình trong sandbox, giới hạn quyền truy cập mạng và hệ thống tệp.
• Giám sát lưu lượng: theo dõi các kết nối ra bên ngoài bất thường khi tự vận hành mô hình.
• Kiểm tra trước khi triển khai: đánh giá hành vi mô hình trên dữ liệu và tác vụ thực tế của tổ chức mình.

Cần lưu ý rằng Cohere bán mô hình AI cho các chính phủ, nên công ty này cũng có lợi ích khi giới chức trở nên dè dặt hơn với các lựa chọn miễn phí từ Trung Quốc — một yếu tố quan trọng để đánh giá khách quan toàn bộ câu chuyện.