NanoClaw và JFrog hợp tác xây dựng "hệ miễn dịch" ngăn chặn tác nhân AI tải mã độc

NanoClaw, biến thể mã nguồn mở phổ biến của OpenClaw, đã hợp tác với JFrog – nhà lãnh đạo trong lĩnh vực quản lý chuỗi cung ứng phần mềm – để tung ra một tích hợp bảo mật chung mới. Mục tiêu của sự hợp tác này là tạo ra một "hệ miễn dịch" bảo vệ các tác nhân tự chủ (autonomous agents) của NanoClaw khỏi việc bị tiêm mã độc.

"Những tác nhân này thực hiện những việc mà bạn không nhất thiết kiểm soát được, và cũng không nhất thiết đào tạo được," ông Gal Marder, Giám đốc Chiến lược của JFrog, chia sẻ trong một cuộc phỏng vấn độc quyền.

Sự hợp tác này có hiệu lực ngay lập tức, kết nối trực tiếp các tác nhân NanoClaw với các kho lưu trữ phần mềm đã được kiểm duyệt của JFrog. Điều này đảm bảo rằng các trợ lý AI chỉ có thể kéo về các thư viện phụ thuộc đã được quét và an toàn. Giải pháp này giải quyết một điểm mù đang phát triển nhanh trong công nghệ: các tác nhân tự chủ thường xuyên cài đặt các gói phần mềm trong nền tảng để mở rộng khả năng của chúng mà không có sự giám sát hoặc kiến thức của con người.

"Những người vận hành tác nhân không nhất thiết là các nhà phát triển, và họ thậm chí không nhận thức được những hệ quả tiềm ẩn," ông Gavriel Cohen, người tạo ra NanoClaw và CEO/đồng sáng lập của startup dịch vụ thương mại NanoCo AI, giải thích.

Để bảo vệ hệ sinh thái rộng lớn hơn, tích hợp này được cung cấp hoàn toàn miễn phí cho cộng đồng mã nguồn mở. Trong khi đó, các tổ chức doanh nghiệp có thể định tuyến tác nhân của họ thông qua các môi trường JFrog đã được cấp phép thương mại hiện có một cách liền mạch.

Rủi ro từ các tác nhân AI tự chủ hiện tại

Khi một người vận hành tương tác với một hệ thống tự chủ như NanoClaw của NanoCo, họ giao tiếp ở mức độ trừu tượng cao. Một người dùng có thể chỉ cần gửi một tệp âm thanh hoặc ghi chú giọng nói, yêu cầu tác nhân tự tìm cách xử lý nó.

Theo ông Cohen giải thích, tác nhân sẽ suy nghĩ: "À, tôi không hiểu ghi chú giọng nói này, hãy để tôi lấy một gói phần mềm, tải xuống thứ gì đó, cài đặt, thiết lập và chạy nó."

Động lực tự cải thiện động này khiến các tác nhân AI trở nên cực kỳ mạnh mẽ, nhưng cũng khiến chúng dễ bị tổn thương trước các cuộc tấn công chuỗi cung ứng phần mềm. Các tác nhân xấu ngày càng thêm độc tố vào các kho lưu trữ mã nguồn mở bằng các gói phần mềm độc hại. Vì các tác nhân hoạt động tự chủ để tìm nạp những gì chúng cần, chúng lướt qua sự kiểm tra của con người. Những người vận hành, những người có thể không phải là nhà phát triển, phần lớn không nhận thức được các hệ quả bảo mật đang diễn ra phía sau hậu trường.

Cách NanoCo và JFrog ngăn chặn tác nhân chạy mã độc

Sự tích hợp giữa NanoCo và JFrog hoạt động như một hệ thống miễn dịch tự động cho các môi trường AI này.

Về mặt kỹ thuật, các tác nhân NanoClaw hiện được cấu hình để định tuyến các yêu cầu đối với gói phần mềm, công cụ dòng lệnh (CLI) và máy chủ MCP (Model Context Protocol) hoàn toàn thông qua các kho lưu trữ của JFrog.

Nếu một tác nhân cố gắng tải xuống một thư viện bị xâm phạm – ví dụ như phiên bản có lỗ hổng của gói Axios phổ biến – kho lưu trữ JFrog sẽ chặn yêu cầu đó. Nó ngăn chặn cài đặt và trả về lỗi chính sách bảo mật cho tác nhân, thông báo rằng yêu cầu đã bị "từ chối bởi chính sách bảo mật của kho lưu trữ JFrog với mã 403".

Quan trọng hơn, hệ thống không chỉ dừng lại ở việc chặn mối đe dọa; nó tạo ra một vòng lặp sửa đổi động. Tác nhân được thông báo về lỗ hổng và được hướng dẫn để tự động tìm kiếm và cài đặt một phiên bản được phê duyệt, không độc hại của gói phần mềm được yêu cầu thay thế.

Đối với các tổ chức lớn, sự tích hợp này giải quyết một cơn đau đầu khổng lồ về tuân thủ. Ông Marder lưu ý rằng khi các doanh nghiệp áp dụng các tác nhân tự chủ, họ yêu cầu khả năng hiển thị tuyệt đối.

Các tổ chức cần "một hệ thống ghi chép, chúng ta cần một nơi nào đó để theo dõi tác nhân nào đang chạy bởi ai, tiêu thụ gói nào, sử dụng kỹ năng nào và sử dụng MCP nào," ông chia sẻ với VentureBeat.

Ngoài khả năng hiển thị, tích hợp JFrog cung cấp một "lớp tin cậy" nền tảng và quản trị nghiêm ngặt đối với những gì các hệ thống tự động hóa này được phép truy cập.

Giấy phép và khả năng tiếp cận

Trong lĩnh vực phân phối phần mềm, giấy phép và các tham số truy cập chi quyết việc áp dụng. Sự hợp tác giữa NanoCo và JFrog sử dụng phương pháp tiếp cận hai chiều để phục vụ cả các nhà phát triển mã nguồn mở cá nhân và các doanh nghiệp chịu sự kiểm soát cao.

Đối với cộng đồng mã nguồn mở, tích hợp này hoàn toàn miễn phí. JFrog đang cung cấp cho người dùng NanoClaw mã nguồn mở quyền truy cập miễn phí vào các nguồn tài nguyên, công cụ và kỹ năng an toàn, đã được kiểm duyệt.

Điều này cho phép các nhà phát triển cá nhân chạy các tác nhân tự chủ tại địa phương mà không bị ngập trong các yêu cầu phê duyệt thủ công cho từng thư viện phụ thuộc. Hơn nữa, khi các thành viên cộng đồng xây dựng và chia sẻ các "kỹ năng" mới cho các tác nhân, những đóng góp này được tải lên kho lưu trữ, được quét tìm mã độc và được xóa trước khi người khác có thể sử dụng chúng. Cơ sở hạ tầng này trực tiếp trung hòa hóa mối đe dọa từ các kho lưu trữ cộng đồng bị đầu độc.

Đối với các triển khai doanh nghiệp, kiến trúc này cắm trực tiếp vào môi trường thương mại hiện có của tổ chức. Thay vì sử dụng kho lưu trữ mã nguồn mở công cộng, người dùng doanh nghiệp định hướng các tác nhân NanoClaw của họ đến các kho lưu trữ JFrog nội bộ của riêng họ. Điều này đảm bảo rằng mọi hoạt động của tác nhân đều tuân thủ các giấy phép thương mại cụ thể, chính sách bảo mật nội bộ, nhu cầu khả năng hiển thị và tiêu chuẩn quản trị của công ty.

Khi AI tiếp tục làm mờ ranh giới giữa ý định của con người và việc thực thi của máy móc, cơ sở hạ tầng bảo vệ việc thực thi đó phải phát triển. Sự hợp tác này thừa nhận một thực tế cốt lõi: bạn không thể đào tạo AI để nhận ra hoàn hảo mọi lỗ hổng zero-day; thay vào đó, bạn phải xây dựng một môi trường nơi tác nhân đơn giản là không thể tiếp cận được lỗ hổng đó ngay từ đầu.