Microsoft cảnh báo AI agent giống như "mối đe dọa nội bộ": không thể tin tưởng các mô hình tiên phong

Microsoft vừa công bố một loạt tính năng bảo mật mới nhằm giúp doanh nghiệp đối phó với mối đe dọa ngày càng tăng từ các AI agent. Động thái này diễn ra trong bối cảnh hãng liên tục cảnh báo về những rủi ro mà AI và các tác nhân tự trị (agent) có thể gây ra cho tổ chức.

Guardian Agents: "người gác cổng" cho các AI agent

Tính năng đáng chú ý nhất là Guardian Agents, một công cụ chuyên giám sát các AI agent mà doanh nghiệp đang vận hành. Guardian Agents là một phần của Project Perception — sản phẩm được Microsoft ra mắt hồi tháng 6.

Project Perception ban đầu được thiết kế như câu trả lời của Microsoft trước các mô hình tấn công mạnh mẽ như Mythos và Fable của Anthropic, hay hệ thống quét lỗ hổng bảo mật Daybreak của OpenAI. Sản phẩm này khởi đầu với ba nhóm agent:

• Red team: đóng vai hacker, chủ động tấn công để tìm lỗ hổng
• Blue team: phát hiện các đợt tấn công của red team và đánh giá lỗ hổng
• Green team: chịu trách nhiệm vá các lỗ hổng được phát hiện

Tuy nhiên, sản phẩm ban đầu được xây dựng dựa trên giả định rằng kẻ tấn công AI sẽ đến từ bên ngoài doanh nghiệp. Gần đây, CEO Microsoft Satya Nadella lại đưa ra cảnh báo theo hướng ngược lại: kẻ thù AI có thể chính là những agent mà doanh nghiệp đã triển khai và đang trả tiền để vận hành — tương tự một nhân viên "biến chất", hay còn gọi là mối đe dọa nội bộ (insider threat).

Nadella: đừng giao phó trách nhiệm cho nhà cung cấp mô hình

Đầu tháng này, trên blog cá nhân, Nadella tuyên bố đã đến lúc ngừng tin tưởng các nhà cung cấp mô hình AI, ngay cả khi họ đưa ra cam kết về an toàn và bảo mật cho các sản phẩm agent của mình. Ông muốn doanh nghiệp triển khai các hệ thống giám sát riêng biệt, không bị kiểm soát bởi chính các phòng thí nghiệm AI, để theo dõi và quản lý các agent do họ tạo ra.

"Chúng ta đang triển khai những hệ thống agent và mô hình phức tạp này, cho chúng quyền truy cập vào những dữ liệu nhạy cảm nhất và trao cho chúng khả năng thực hiện các hành động quan trọng thay mặt chúng ta! Chúng ta đơn giản là không thể thuê ngoài trách nhiệm về những gì trí tuệ nhân tạo làm thay mình. Những cam kết của nhà cung cấp mô hình không giải phóng chúng ta khỏi trách nhiệm đó… Nói cách khác, chúng ta cần tách biệt việc cung cấp trí tuệ khỏi quyền kiểm soát nó."

"Mô hình tiên phong không thể tin tưởng"

Khi công bố Guardian Agents, lãnh đạo mảng bảo mật của Microsoft, Hayete Gallot, còn thẳng thắn hơn:

"Thật không may, các mô hình tiên phong, bất kể nguồn gốc, đều không thể tin tưởng."

Bà giải thích lý do không phải vì chúng có ý đồ xấu hay dễ bị tấn công, mà vì chúng khó lường. Các mô hình được huấn luyện để hoàn thành nhiệm vụ, chứ không phải để tuân theo "các chuẩn mực tổ chức hay phán đoán". Thêm vào đó, chúng thường được trao "chìa khóa vạn năng" — quyền truy cập vào dữ liệu và công cụ có thể gây tổn hại nghiêm trọng.

Giải pháp vừa bất ngờ, vừa có lợi cho chính Microsoft

Cách tiếp cận của Microsoft mang hai mặt. Mặt bất ngờ là hãng vốn có quan hệ rất thân thiết với cả OpenAI và Anthropic — đã đầu tư vào cả hai. OpenAI còn là một trong những khách hàng cloud lớn nhất của Microsoft, và hãng cũng có phòng thí nghiệm AI riêng. Việc Microsoft gieo rắc sự thiếu tin tưởng vào các đối tác này phần nào đi ngược lại lợi ích kinh doanh của chính họ.

Mặt có lợi là Microsoft muốn doanh nghiệp mua sản phẩm bảo mật agent từ họ — nhà cung cấp cloud — thay vì từ Anthropic hay OpenAI. Nhưng bỏ qua xung đột lợi ích, logic của hãng vẫn chặt chẽ: phần mềm giám sát hành vi agent nên tách biệt khỏi nhà cung cấp agent, giống như kiểm toán viên phải độc lập với tổ chức mà họ kiểm toán.

Mở rộng sang hệ sinh thái bảo mật

Microsoft đang nắm bắt cơ hội kinh doanh này theo nhiều cách. Ngoài Guardian Agents, hãng đã bổ sung tính năng phát hiện agent vào sản phẩm Microsoft Defender, có khả năng nhận diện tới 60 loại agent mà nhân viên đưa vào môi trường làm việc, bao gồm Claude Code, Codex và OpenClaw.

Hãng cũng thêm các tính năng giới hạn quyền truy cập của agent vào dữ liệu và hệ thống, đồng thời điều chỉnh linh hoạt quyền hạn của agent theo từng nhiệm vụ — bao gồm yêu cầu phê duyệt thủ công nếu agent có dấu hiệu đưa ra quyết định rủi ro.

Quan điểm coi agent như những "người trong nhà" không đáng tin cậy đang lan rộng khắp ngành. Microsoft là thành viên sáng lập của Open Agent Safety Platform do Nvidia khởi xướng, với sự tham gia của hơn 100 công ty công nghệ khác. Nền tảng này cô lập agent trong môi trường an toàn và có thể giám sát, dừng hành vi thông qua phần cứng — hoạt động như một công tắc ngắt khẩn cấp.

Động thái này nối tiếp việc Microsoft công bố dòng Surface Laptop Ultra mới dành cho agent, chạy trên chip Nvidia và tích hợp sẵn các cơ chế bảo mật, kiểm soát agent.

Với các doanh nghiệp Việt Nam đang bắt đầu ứng dụng AI agent vào vận hành, bài học từ Microsoft là lời nhắc nhở: cần thiết lập lớp giám sát độc lập, phân quyền tối thiểu và cơ chế phê duyệt con người trước khi trao cho AI quyền truy cập vào dữ liệu và hệ thống quan trọng.