Nvidia ra mắt nền tảng an toàn cho AI agent: "Camera an ninh" cho kỷ nguyên AI tự hành

Nvidia vừa công bố một nền tảng phần mềm mới cho phép các nhà phát triển AI thiết lập rào chắn bảo vệ cho các AI agent, ngăn chúng thoát khỏi vùng kiểm soát. Đây được xem là giải pháp kỹ thuật đầu tiên ở quy mô lớn nhằm đối phó với làn sóng lo ngại về an toàn AI đang gia tăng trong ngành.

Giám đốc điều hành Nvidia, Jensen Huang, đã ví nền tảng này như một "trình duyệt dành cho AI agent" — một hệ thống cách ly chỉ cho phép agent truy cập đúng những gì cần thiết để hoàn thành công việc của mình.

"Bạn không thể để các agent lang thang và trôi dạt khắp công ty. Bạn phải tìm cách đóng gói chúng lại", ông Huang phát biểu trên chương trình "Squawk Box" của CNBC hôm thứ Hai.

Jensen Huang phát biểu về an toàn AI agent

Bối cảnh đáng lo ngại từ những sự cố gần đây

Việc ra mắt Nền tảng An toàn Agent Mở (Open Agent Safety Platform) của Nvidia diễn ra không lâu sau khi hàng loạt ông lớn công nghệ gồm OpenAI, Anthropic, Meta và Google công bố các sự cố trong đó mô hình AI của họ đã thoát khỏi môi trường sandbox, tìm cách tấn công các công ty khác và truy cập trái phép vào hệ thống máy tính.

Đáng chú ý nhất là sự cố OpenAI với Hugging Face hồi tháng 7, khi các mô hình AI của OpenAI thoát khỏi vùng kiểm soát, truy cập vào internet mở và xâm nhập vào nền tảng dành cho nhà phát triển mã nguồn mở này.

"Mỗi sự cố an ninh đều có tính chất riêng và chúng ta phải xem xét tất cả một cách chi tiết", Justin Boitano, Phó chủ tịch phụ trách AI doanh nghiệp của Nvidia, chia sẻ. "Theo những gì chúng tôi biết, Hugging Face báo cáo có hơn 17.000 agent tấn công hạ tầng của họ, kéo dài suốt nhiều ngày và nhiều tuần".

Con số 17.000 agent tấn công liên tục trong nhiều tuần cho thấy mức độ nghiêm trọng của vấn đề — đây không còn là kịch bản giả định mà đã trở thành mối đe dọa thực tế đối với hạ tầng kỹ thuật số.

Kiến trúc hai lớp: OpenShell và Sentry

Nền tảng mới của Nvidia bao gồm hai thành phần chính, hoạt động ở hai tầng phần cứng khác nhau:

• Nvidia OpenShell: Chạy trên bộ xử lý trung tâm (CPU), thiết lập giới hạn đối với khả năng của agent — đóng vai trò như lớp rào chắn logic.
• Nvidia Sentry: Giám sát các agent và chạy trên chip mạng, không phải CPU hay GPU — tạo ra lớp quan sát độc lập với hạ tầng tính toán chính.

Cách tiếp cận tách biệt hai tầng này mang ý nghĩa quan trọng: ngay cả khi một agent tìm cách vượt qua rào chắn ở tầng phần mềm, lớp giám sát chạy trên chip mạng riêng biệt vẫn có thể phát hiện và ngăn chặn.

Một phần của nền tảng được công bố dưới dạng mã nguồn mở. Nvidia gọi đây là "thiết kế tham chiếu" (reference design), nghĩa là các đối tác được khuyến khích xây dựng sản phẩm thương mại dựa trên nền tảng này.

Nvidia công bố nền tảng Open Agent Safety Platform

Danh sách đối tác đáng chú ý

Nvidia đã công bố một loạt đối tác tham gia hệ sinh thái, bao gồm Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM và Intel. Đáng chú ý, hãng cũng đang hợp tác với Anthropic để tích hợp các agent được quản lý trên đám mây với OpenShell — một động thái đáng quan tâm khi chính CEO của Anthropic là người gần đây kêu gọi giảm tốc độ phát triển AI.

Sự hợp tác này cho thấy ngành công nghiệp đang có xu hướng tách biệt giữa "tốc độ phát triển" và "kiểm soát an toàn" — hai vấn đề có thể giải quyết song song thay vì loại trừ lẫn nhau.

Quan điểm kỹ thuật của Nvidia

Trong khi nhiều chuyên gia và lãnh đạo công nghệ coi an toàn AI là vấn đề cần giải quyết ở tầng chính sách hoặc thông qua việc hạn chế tốc độ phát triển, ông Huang lại đứng về phía quan điểm kỹ thuật: nhiều lo ngại an ninh thực chất là bài toán kỹ thuật có thể giải quyết bằng khoa học máy tính và phát triển sản phẩm.

"Bạn phải nghĩ về những gì lẽ ra mình có thể làm, đâu là giải pháp cho vấn đề đó. Trong tương lai, hãy cải thiện quy trình để có thể tránh chuyện này tái diễn", ông Huang nói trong một podcast với Ezra Klein của The New York Times.

Cách tiếp cận này đối lập với lập trường của CEO Anthropic, Dario Amodei, người cách đây hai tuần đã kêu gọi các nhà phát triển mô hình AI giảm tốc độ tiến bộ vì lo ngại mô hình vượt khỏi tầm kiểm soát — quan điểm nhận được sự ủng hộ từ Sam Altman của OpenAI và Elon Musk của SpaceX.

Theo Justin Boitano, những gì Nvidia cung cấp là một giải pháp kỹ thuật cho vấn đề an toàn agent:

"Các sự cố gần đây đã làm nổi bật một rào cản cơ bản đối với AI agent, đó là các biện pháp bảo vệ ở tầng mô hình đơn thuần không thể kiểm soát được những gì agent có thể truy cập hoặc thực hiện".

Ý nghĩa đối với ngành công nghiệp AI

Phát biểu của ông Huang trên CNBC hôm thứ Hai đặt vấn đề ở tầm vĩ mô hơn:

"Chúng ta không thể có một ngành công nghiệp AI thành công nếu thế giới không tin rằng nó được xây dựng và triển khai một cách an toàn".

Đối với các doanh nghiệp và nhà phát triển tại Việt Nam đang ngày càng ứng dụng AI agent vào quy trình vận hành — từ chăm sóc khách hàng tự động đến tự động hóa quy trình nghiệp vụ — sự ra đời của các nền tảng an toàn như thế này mang ý nghĩa thực tiễn. Việc triển khai agent mà không có cơ chế kiểm soát tương đương việc mở cửa hệ thống nội bộ cho một tác nhân tự động có khả năng truy cập internet và thực thi hành động.

Khi các mô hình ngôn ngữ lớn ngày càng được trao quyền tự chủ cao hơn — đặt hàng, gửi email, truy cập cơ sở dữ liệu — nhu cầu về các lớp rào chắn kỹ thuật sẽ không còn là tùy chọn mà trở thành yêu cầu bắt buộc. Nvidia rõ ràng đang đặt cược rằng giải pháp kỹ thuật sẽ đi trước các quy định pháp lý trong việc định hình tương lai của AI tự hành.