Commvault ra mắt công cụ "hoàn tác" cho các tác nhân AI đi chệch hướng

Hãy giữ các tác nhân AI của bạn ở gần và phần mềm giám sát chúng càng gần càng tốt. Commvault mới đây đã công bố giải pháp AI Protect, có khả năng phát hiện và giám sát các tác nhân AI đang hoạt động trong các môi trường đám mây như AWS, Azure và GCP, thậm chí có thể "hoàn tác" các hành động của chúng khi mọi thứ không diễn ra như ý muốn.

Đây là một phần trong bộ sản phẩm mới mà công ty bảo vệ dữ liệu 30 tuổi này tung ra, với tham vọng định vị mình là trung tâm của khả năng phục hồi AI (AI resilience) — một tập hợp công cụ đang phát triển nhanh chóng.

Trước đó, nền tảng quản lý quyền truy cập danh tính Okta cũng đã công bố phiên bản sẵn sàng cho Okta dành cho Tác nhân AI, cho phép khách hàng định vị các tác nhân, xem chúng đang làm gì và tắt chúng nếu cần thiết.

Bảo vệ "bộ não" của hệ thống AI

Hai sản phẩm còn lại của Commvault là Data Activate và AI Studio, tập trung vào việc chuẩn bị dữ liệu sao lưu cho các quy trình học máy (machine learning) và cung cấp công cụ để tổ chức xây dựng cũng như triển khai các tác nhân riêng của mình.

Vidya Shankaran, Giám đốc công nghệ lĩnh vực (Field CTO) của Commvault, cho biết các sản phẩm này ra đời vào thời điểm các doanh nghiệp đang chạy đua triển khai các tác nhân AI nhưng gặp khó khăn trong việc quản trị chúng.

"Nhiều tổ chức thường bỏ qua thực tế rằng bạn cần bắt đầu bảo vệ các cơ sở dữ liệu vector, vốn về cơ bản là bộ não của toàn bộ hệ thống AI của bạn," Shankaran nói.

Cơ sở dữ liệu vector lưu trữ các vector nhúng (embeddings) mà các mô hình ngôn ngữ lớn (LLM) phụ thuộc vào. Nếu nó bị xâm phạm hoặc mất mát, "bạn sẽ phải xây dựng lại từ đầu hoặc huấn luyện lại mô hình. Không ai còn đủ thời gian cho việc xa xỉ đó nữa."

Giám sát và khôi phục hành vi bất thường

AI Protect được thiết kế để theo dõi và phản hồi những gì các tác nhân AI đang làm trên các môi trường đám mây bao gồm AWS, Azure và GCP. Công cụ này phát hiện các tác nhân, ánh xạ các phụ thuộc của chúng và giám sát hành vi để tìm kiếm các bất thường. Shankaran mô tả đây là mô hình sai lệch cơ sở (baseline deviation model): hệ thống sẽ nạp các sự kiện theo thời gian, thiết lập các mẫu hành vi bình thường, sau đó đánh dấu các sự lệch lạc — ví dụ như một tác nhân đột nhiên có quyền truy cập vào dữ liệu tiền lương mà trước đó nó không thể chạm tới.

"Chúng tôi sẽ nổi bật mọi hành vi bất thường. Đầu tiên chúng tôi thông báo và sau đó, tất nhiên, cung cấp các tùy chọn để khôi phục các tệp cấu hình của những tác nhân đó hoặc sửa chữa dữ liệu đã được bảo vệ," bà chia sẻ.

Khi sự cố xảy ra, AI Protect có thể khôi phục cấu hình của tác nhân hoặc sửa chữa dữ liệu mà nó làm hỏng bằng cách hoàn nguyên về một trạng thái tốt đã biết. Shankaran lưu ý rằng công cụ này chỉ có thể giám sát và hoàn nguyên; nó không thể dừng hoặc kiểm soát trực tiếp các tác nhân của bên thứ ba.

"Chúng tôi thà ở trong làn đường của mình," bà nói, "và không vượt quá giới hạn để ra lệnh, ví dụ: 'Này tác nhân của Salesforce, đừng làm thế'."

Tận dụng dữ liệu sao lưu cho AI

Data Activate cho phép các tổ chức sử dụng các bản sao dữ liệu mà Commvault đã quản lý để huấn luyện các mô hình AI, giúp giảm áp lực lên các hệ thống trực tiếp.

Những bản sao này có thể được phân loại để loại bỏ thông tin nhận dạng cá nhân (PII), sau đó xuất bản dưới các định dạng như Apache Iceberg và Parquet để sử dụng với các nền tảng như Snowflake và Databricks. Đây là cách khách hàng của Commvault khai thác thêm giá trị từ dữ liệu vốn đang nằm im.

"Bạn đã bảo vệ dữ liệu đó với Commvault," Shankaran nói. "Bạn chỉ cần sử dụng bản sao được bảo vệ đó để đưa vào quy trình AI."

Tất nhiên, ngay cả khi Commvault cam kết giúp bạn khóa chặt các tác nhân nổi loạn, họ cũng đang thêm vào sự phức tạp: AI Studio là một nhóm các tác nhân được xây dựng sẵn mà khách hàng Commvault có thể sử dụng cho các tác vụ bảo vệ dữ liệu phổ biến. Nó cũng có các công cụ để tổ chức xây dựng tác nhân của riêng mình. Ý tưởng là để các tác nhân của Commvault tương tác với các tác nhân từ các nền tảng khác — ví dụ, một tác nhân Salesforce có thể phối hợp với tác nhân Commvault để đảm bảo dữ liệu vừa có thể truy cập vừa được bảo vệ. Studio cũng hỗ trợ máy chủ MCP (Model Context Protocol) của Commvault để tích hợp với các hệ thống doanh nghiệp khác.