Edamame: Nền tảng bảo mật mới giúp phát hiện AI Coding Agents đi chệch hướng và đánh cắp dữ liệu

Dòng chảy Bắc Đại Tây Dương, một phần mở rộng của Gulf Stream, mang lại nước ấm đến bờ biển phía tây của Pháp. Nhưng "Dòng chảy AI Coding" lại là một hiện tượng đáng lo ngại hơn nhiều và mang tính toàn cầu. Startup Edamame có trụ sở tại Pháp đã đưa ra giải pháp mới để xử lý vấn đề này.

Các nhà phát triển hiện nay đang sử dụng hàng loạt các tác nhân lập trình AI (AI coding agents) để tăng tốc độ phát triển mã nguồn. Đây là một ý định tốt, nhưng có thể ẩn chứa những hậu quả xấu. Các tác nhân lập trình có xu hướng phân kỳ khỏi ý định ban đầu được tuyên bố của nhà phát triển để thực hiện những việc khác, thường khó phát hiện.

Bảo mật trong phát triển phần mềm

Sự phân kỳ này thường được gọi là "code drift" (sự trôi mã). Nó có thể xảy ra với bất kỳ tác nhân nào nhưng có thể trở nên tồi tệ hơn với các tác nhân tự cải tiến. Một nguyên nhân chính có thể xuất phát từ bên trong chính tác nhân hoặc do bị "ép" bởi các tài sản bị đầu độc bởi kẻ tấn công. Nguyên nhân sau tạo ra sự phân kỳ nguy hiểm và tức thời hơn, có thể dẫn đến việc đánh cắp token, khóa SSH, bí mật CI, mã nguồn hoặc vật liệu ví của nhà phát triển như một phần của quy trình cục bộ hợp lệ.

Giải pháp bảo mật thời gian chạy của Edamame

Edamame đã công bố giải pháp của mình để chống lại hiệu ứng và/hoặc thiệt hại có thể gây ra bởi hiện tượng này. Giải pháp là một hệ thống bảo mật thời gian chạy được mô tả là lớp bằng chứng thời gian chạy phía máy chủ (host‑side runtime evidence layer) thực hiện xác minh thời gian chạy và phát hiện mẫu tấn công cho các tác nhân lập trình.

Hệ thống bao gồm sáu mô-đun hoặc lớp chính hoạt động cùng nhau để triển khai xác minh thời gian chạy và phát hiện mẫu tấn công:

• Edamame Security: Mỏ neo tin cậy cho máy trạm của nhà phát triển và thiết bị cục bộ. Giám sát sự trôi dạt của tư thế, sự phân kỳ và các phát hiện tấn công trong quá trình tải trọng tác nhân cục bộ.
• Edamame Posture: Bề mặt điều khiển CLI và máy chủ cho runners, máy chủ và máy chủ tác nhân. Củng cố môi trường tự lưu trữ trước khi tác nhân hoạt động, sau đó giám sát bằng chứng thời gian chạy.
• Tích hợp tác nhân: Cursor, Claude Desktop, Claude Code, Codex và OpenClaw là các bề mặt thời gian chạy được đặt tên. Các tín hiệu gốc của tác nhân bổ sung cho telemetry máy chủ.
• Divergence engine (Động cơ phân kỳ): Kết hợp ý định của tác nhân lập trình đã bắt được với telemetry về quy trình, hệ thống tệp, mạng, cuộc gọi công cụ và tư thế trên máy chủ.
• Động cơ phát hiện mẫu tấn công: Chạy các kiểm tra tương thích với CVE trên telemetry trực tiếp để thu thập thông tin xác thực, xuất lẻ token, khai thác sandbox, truy cập tệp nhạy cảm và hành vi chuỗi cung ứng.
• Edamame Hub: Hiển thị các cài đặt tác nhân lập trình không an toàn trên toàn đội và cung cấp cho các nhóm một nơi duy nhất để xem xét bằng chứng phân kỳ và phát hiện tấn công.

Hệ sinh thái bảo mật

Edamame mô tả hệ thống của mình không chỉ là một giao diện khác được thêm vào quy trình phát triển phần mềm (SDLC), mà là một cách để đưa xác minh thời gian chạy và phát hiện tấn công vào những nơi mà các nhà phát triển và tác nhân đã làm việc.

"Các tác nhân lập trình đang trở thành lớp thực thi cho việc chuyển giao phần mềm," Frank Lyonnet, nhà sáng lập và CEO của Edamame Technologies giải thích. "Điều đó thay đổi câu hỏi bảo mật từ 'nhà phát triển này có đáng tin không?' sang 'tác nhân có giữ nguyên trong ý định của người điều hành, trên máy chủ này, dưới tư thế này không?'. Edamame đo lường sự phân kỳ đó từ telemetry máy chủ và cảnh báo ngay lập tức khi bằng chứng cho thấy sự trôi dạt ý định hoặc các mẫu tấn công cụ thể."

Kave Salamatian, giáo sư khoa học máy tính tại Đại học Savoie ở dãy núi Alps của Pháp, nhận định: "Việc xác minh hành vi của các tác nhân phần mềm tự chủ — so sánh từng hành động với một chính sách rõ ràng, tại ranh giới, với bằng chứng — đã là một chủ đề lặp đi lặp lại trong cộng đồng nghiên cứu trong một thập kỷ. Những gì Edamame Technologies cung cấp cho các tác nhân lập trình là biểu hiện hoạt động của công việc đó, được áp dụng cho quy trình làm việc rõ ràng đã vượt xa việc giám sát sau sự kiện."

Phòng chống tấn công chuỗi cung ứng

Cũng đáng chú ý một tác dụng phụ khá quan trọng của hệ thống Edamame: cùng một telemetry máy chủ cung cấp điểm số phân kỳ xác minh thời gian chạy — được làm phong phú bằng học máy, phát hiện bất thường và phân tích AI — cũng phát hiện làn sóng tấn công chuỗi cung ứng npm và PyPI hiện nay đang tiếp cận máy trạm của nhà phát triển thông qua các tác nhân lập trình.

Mặc dù nó sẽ không ngăn chặn Axios npm RAT chạy, nhưng nó sẽ phát hiện sự hiện diện của nó ngay sau khi được chuyển giao. Nó không thể chặn cài đặt, nhưng sẽ phát hiện hoạt động đáng ngờ ngay khi RAT beacon (gửi tín hiệu) đến máy chủ chỉ huy và điều khiển (C2) của nó. Nó sẽ phát hiện nỗ lực của RAT để đọc token và khóa SSH và sẽ thấy nỗ lực xuất lẻ những bí mật đó. Nó sẽ không ngăn chặn hoạt động của RAT, nhưng sẽ phát hiện sự hiện diện của nó ngay lập tức và mang lại cho nạn nhân khả năng khắc phục nhanh chóng. Nguyên tắc tương tự cũng áp dụng cho các cuộc tấn công chuỗi cung ứng PyPI và khác tiếp cận máy trạm của nhà phát triển thông qua các tác nhân lập trình.

Edamame Technologies được hỗ trợ bởi các nhà đầu tư cá nhân là các giám đốc điều hành tại Netskope, UiPath và Sonar.