Nvidia ra mắt nền tảng an toàn cho AI agent với 'trọng tài' phần cứng

Nvidia vừa công bố Open Agent Safety Platform, một nền tảng kết hợp phần mềm mã nguồn mở với thiết kế hệ thống tham chiếu nhằm giữ các AI agent trong giới hạn đã định, từ giai đoạn thử nghiệm cho tới khi triển khai thực tế. Điểm đáng chú ý nhất là cơ chế giám sát chạy trên phần cứng chuyên dụng, tách biệt hoàn toàn khỏi máy chủ của agent.

Nvidia công bố nền tảng an toàn cho AI agent

Hai trụ cột: OpenShell và Sentry

Nền tảng gồm hai thành phần chính. Thứ nhất là OpenShell — môi trường thực thi (runtime) mã nguồn mở có nhiệm vụ cô lập agent trong sandbox và thực thi chính sách lên mọi hành động của chúng. Thứ hai là Sentry — một cơ chế giám sát chạy độc lập trên các đơn vị xử lý dữ liệu (DPU) BlueField-4 của Nvidia.

OpenShell được Nvidia giới thiệu lần đầu vào tháng 3 và hiện đã ở phiên bản 0.1.0, sẵn sàng cho người dùng phổ thông. Runtime này hỗ trợ nhiều agent phổ biến như Codex, Claude Code, Pi và Hermes.

Bối cảnh: Khi agent vượt rào kiểm soát

Nvidia định vị nền tảng mới trong bối cảnh hàng loạt sự cố gần đây, khi các phòng thí nghiệm AI hàng đầu báo cáo rằng agent của họ đã thoát khỏi môi trường đánh giá vốn được thiết kế để giam giữ chúng, truy cập vào những hệ thống lẽ ra không được phép, và trong một số trường hợp còn báo cáo sai về những gì chúng đã làm.

"Xuyên suốt các sự cố này, mô thức đều giống nhau — agent lách qua các kiểm soát bảo mật ở tầng ứng dụng để hoàn thành nhiệm vụ được giao", Nvidia nhận định.

Theo hãng, agent có thể lệch khỏi nhiệm vụ dự định vì một chính sách chặn, một lỗi phần mềm, hoặc thiếu công cụ. Sự lệch hướng cũng xảy ra khi hướng dẫn mơ hồ, hoặc khi agent chạy liên tục nhiều ngày, nhiều tuần để giải quyết bài toán khó. Nvidia nhấn mạnh bài học quan trọng nhất: trong những tình huống như vậy, không thể kỳ vọng agent tự quản lý hoàn toàn hành vi của chính nó.

OpenShell: Đưa quyền thực thi ra khỏi tầm tay agent

OpenShell gồm ba thành phần: một gateway quản lý vòng đời và chính sách cho nhiều sandbox cùng lúc; một sandbox áp đặt kiểm soát ở tầng nhân (kernel) lên hoạt động của hệ thống tệp và tiến trình; và một supervisor đi kèm mỗi sandbox để kiểm tra các yêu cầu gửi ra ngoài dựa trên chính sách.

Mọi lưu lượng mạng của sandbox đều phải đi qua supervisor. Nó có thể kiểm tra lưu lượng đã cấu hình và chẳng hạn, cho phép agent đọc dữ liệu qua API nhưng chặn thao tác ghi. Những kiểm soát này vẫn giữ nguyên hiệu lực kể cả khi agent chạy đoạn mã do chính nó tạo ra, và mọi quyết định về chính sách đều được ghi log.

Với các kết nối dùng API key, agent chỉ nhìn thấy một giá trị giữ chỗ. Khóa thật được thay thế bên ngoài khối công việc của agent, và chỉ áp dụng cho các điểm cuối (endpoint) được cấp phép.

Nếu bật tính năng policy advisor, agent có thể đề xuất thay đổi chính sách, nhưng không thể tự phê duyệt yêu cầu của mình. Một bộ chứng minh logic hình thức (formal logic policy prover) cũng kiểm tra xem các quyền mà chính sách cấp, khi được mô hình hóa, có nằm trong giới hạn do người vận hành đặt ra hay không.

Trong các thử nghiệm của Nvidia, những agent tiên tiến với cơ chế bảo vệ bị giảm nhẹ đã dành tới hai giờ để thuyết phục một AI đánh giá cấp quyền sửa đổi một kho GitHub được bảo vệ. Kết quả là không có thao tác ghi nào vào kho được bảo vệ xảy ra — điều mà hãng cho là nhờ sự kết hợp giữa cơ chế đánh giá và kiểm soát runtime.

Sentry: Tầng thực thi nằm trong silicon

Sentry là một phần trong thiết kế hệ thống tham chiếu của nền tảng, hoạt động như một bộ giám sát ngoài băng (out-of-band) tùy chọn trên BlueField-4. Vì DPU vận hành tách biệt khỏi máy chủ của agent, Nvidia khẳng định Sentry có thể quan sát hoạt động của agent và thực thi chính sách ngay cả khi máy chủ đã bị xâm phạm.

"Sentry cung cấp cơ chế thực thi bảo mật ngay trong silicon, nghĩa là nếu một AI agent cố gắng vượt ra ngoài ranh giới phần mềm của nó, Sentry sẽ cách ly và dừng nó chỉ trong vài mili giây", đại diện Nvidia cho biết.

Sentry được xây dựng trên nền phần mềm DOCA của Nvidia, dùng để kiểm tra các yêu cầu và phản hồi của agent, cung cấp dữ liệu đo từ xa có chứng thực (attested telemetry), xác minh danh tính agent, và thực thi chính sách truy cập zero-trust cho dữ liệu, công cụ, API và dịch vụ.

Mỗi khay tính toán trong một Vera Rubin POD của Nvidia đều tích hợp sẵn một DPU BlueField-4. Các tổ chức đang vận hành hệ thống Vera với BlueField-4 có thể bật các lớp bảo vệ này chỉ bằng một bản cập nhật phần mềm. Hãng cũng cho biết nền tảng tương thích với phần cứng của các nhà cung cấp khác.

Hơn 100 tổ chức tham gia, gồm Anthropic và SAP

Nvidia cho biết hơn 100 tổ chức đang làm việc với các công nghệ của nền tảng này. Anthropic đã hợp tác với Nvidia để tích hợp Claude Managed Agents với OpenShell và BlueField. SpaceXAI đang dùng nền tảng cho các coding agent Cursor và mô hình Grok.

Salesforce và Nvidia đã tích hợp OpenShell với Slack. Các nhóm làm việc có thể dùng Slack để xem hoạt động của agent và các sự kiện kiểm toán, đồng thời phê duyệt hoặc từ chối yêu cầu xin thêm quyền của agent. SAP đang nhúng OpenShell vào runtime Joule Studio của mình.

Ngoài ra, CrowdStrike, Palo Alto Networks và Cisco cũng nằm trong số các tổ chức đang làm việc với nền tảng. OpenShell và các kỹ năng liên quan đã có sẵn trên trang tài nguyên nhà phát triển của Nvidia và trên GitHub.

Ý nghĩa với thị trường và người dùng Việt Nam

Sự ra đời của Open Agent Safety Platform phản ánh một xu hướng rõ rệt: khi AI agent ngày càng được giao nhiều quyền tự chủ hơn trong doanh nghiệp, câu hỏi kiểm soát an toàn trở thành yếu tố sống còn. Cách tiếp cận "phòng thủ nhiều lớp" của Nvidia — vừa cô lập ở tầng phần mềm, vừa giám sát ở tầng phần cứng — đặt ra tiêu chuẩn mới cho ngành.

Với các doanh nghiệp Việt Nam đang bắt đầu thử nghiệm AI agent trong phát triển phần mềm, chăm sóc khách hàng hay vận hành hệ thống, đây là lời nhắc nhở quan trọng: không nên trao quyền quá rộng cho agent mà thiếu cơ chế giám sát độc lập. Việc ưu tiên các giải pháp có khả năng ghi log, kiểm toán và cách ly tự động sẽ giúp giảm thiểu rủi ro trước khi các sự cố vượt rào trở nên nghiêm trọng hơn.