Ảo tưởng kiểm soát AI: 85% đội ngũ IT cho biết mọi tác nhân đều có chủ sở hữu, nhưng thực tế phũ phàng hơn nhiều

Ảo tưởng kiểm soát AI: 85% đội ngũ IT cho biết mọi tác nhân đều có chủ sở hữu, nhưng thực tế phũ phàng hơn nhiều

Theo một cuộc khảo sát mới của Ivanti với 3.900 nhân viên tại sáu quốc gia, các nhà lãnh đạo tổ chức có khả năng giấu việc sử dụng AI cao gấp gần hai lần so với các nhân viên khác, với tỷ lệ tương ứng là 42% so với 23%. Trong số những người lãnh đạo che giấu việc sử dụng này, 52% thừa nhận họ làm vậy để có được "lợi thế bí mật".

Cùng một nghiên cứu cũng chỉ ra một nghịch lý lớn: 85% các chuyên gia IT khẳng định rằng mọi tác nhân AI (AI agent) đều có một chủ sở hữu được định danh. Tuy nhiên, chỉ có 42% nói rằng quyền sở hữu này thực sự rõ ràng — một khoảng cách 43 điểm phần trăm mà không một khuôn khổ quản trị nào được thiết kế để lấp đầy.

Rủi ro từ Shadow AI và các nhà lãnh đạo "giấu mặt"

Sam Evans, Giám đốc An ninh thông tin (CISO) của Clearwater Analytics, từng đứng trước hội đồng quản trị và trình bày rủi ro đối với 8,8 nghìn tỷ USD tài sản mà nền tảng của công ty này hỗ trợ. "Kịch bản tồi tệ nhất có thể là một nhân viên lấy dữ liệu khách hàng và đưa vào một công cụ AI mà chúng tôi không quản lý", Evans chia sẻ với VentureBeat.

Bill Robbins, CEO của Menlo Security, đã chia sẻ lại một cuộc trò chuyện với CISO của một trong ba ngân hàng lớn nhất Mỹ, người đã mô tả việc khám phá Shadow AI (sử dụng AI không được phê duyệt) là "một nhiệm vụ gần như vô vọng": AI đã được nhúng vào mọi ứng dụng và trình duyệt mà nhân viên chạm vào. Ngân hàng này quản lý bằng cách cô lập, không phải bằng cách khám phá.

Quy mô của vấn đề biện minh cho lập trường này. "Chúng tôi thấy khoảng 50 ứng dụng AI mới mỗi ngày và đã liệt kê hơn 12.000 ứng dụng", Itamar Golan, CEO của Prompt Security cho biết. "Khoảng 40% trong số này mặc định đào tạo trên bất kỳ dữ liệu nào bạn cung cấp, có nghĩa là sở hữu trí tuệ của bạn có thể trở thành một phần của mô hình của họ".

Tại sao quản trị AI lại thất bại khi chạy thực tế?

CrowdStrike đã phát hiện 1.800 ứng dụng AI hoạt động trên 160 triệu điểm cuối. Elia Zaitsev, CTO của CrowdStrike, mô tả điều khiến bề mặt này khó quản lý đến vậy: "Rất khó để phân biệt xem một tác nhân đang chạy trình duyệt web của bạn hay chính bạn đang chạy nó. Việc quan sát các hành động vật lý thực tế là một vấn đề có cấu trúc và có thể giải quyết được, nhưng ý định thì không".

Vấn đề cốt lõi là kiểm tra tại thời điểm triển khai (deploy) nhưng thất bại tại thời gian chạy (runtime). Các bài đánh giá kiểm tra các yêu cầu chức năng khi mô hình được tung ra, nhưng chúng không bao giờ kiểm tra nguồn gốc mô hình, sự trôi dạt hành vi, hay việc tác nhân có tự mở rộng quyền hạn của mình sau khi ra mắt hay không.

Trong một ví dụ gây sốc tại RSA Conference 2026, CEO George Kurtz của CrowdStrike tiết lộ rằng một tác nhân AI của CEO một công ty trong Fortune 50 đã viết lại chính sách bảo mật của công ty để mở rộng quyền tự chủ của chính nó. Công ty đã phát hiện ra sự cố này một cách tình cờ. "Trong kỷ nguyên của các tác nhân, việc phòng thủ trước các kẻ thù được tăng tốc bởi AI và bảo mật chính các hệ thống AI đòi hỏi phải hoạt động ở tốc độ máy móc", Kurtz nói.

Kayne McGladrey, thành viên cao cấp của IEEE, chỉ ra nguyên nhân sâu xa khiến khoảng trống quản trị này vẫn tồn tại: "Bất cứ thứ gì dường như có hương vị an ninh mạng thường được đưa vào danh mục rủi ro an ninh mạng, điều này hoàn toàn hư cấu. Họ nên tập trung vào rủi ro kinh doanh".

Cửa sổ 18 tháng và sự chia rẽ về độ chín muội

Cửa sổ để giải quyết vấn đề này đang đóng lại. Các tổ chức IT kỳ vọng AI sẽ tự động hóa 46% hoạt động của họ trong vòng 18 tháng tới. Quản trị hiện là rào cản phổ biến nhất đối với việc triển khai nhanh hơn, xếp trên cả kỹ năng, công nghệ và thách thức dữ liệu.

Sự chênh lệch về độ chín muồi khiến khoảng trống quản trị trở nên nguy hiểm hơn. Các chuyên gia IT tại các tổ chức có độ chín muội về AI cao tiết kiệm sáu giờ mỗi tuần, gấp đôi so với ba giờ tiết kiệm ở mức độ thấp nhất. Tuy nhiên, tại các tổ chức đang trong giai đoạn thử nghiệm sớm, chỉ có 15% báo cáo quản trị được nhúng hoàn toàn so với 69% tại các tổ chức đã mở rộng quy mô.

Cisco President Jeetu Patel đã đưa ra một kịch bản giả định: một tác nhân tính phí 40.000 USD, mời đối thủ cạnh tranh vào kênh Slack và công bố địa chỉ nhà riêng. "Lời xin lỗi không phải là một hàng rào bảo vệ", Patel nói.

6 câu hỏi quản trị cho mùa tái ký hợp đồng Q3

Dưới đây là bảng tổng hợp các câu hỏi then chốt mà CISO có thể sử dụng trong các cuộc đàm phán gia hạn hợp đồng với nhà cung cấp để tách biệt những ai thực thi kiểm soát thời gian chạy và những ai chỉ cung cấp tài liệu:

Kích thước quản trị	Thực tế dữ liệu cho thấy	Tại sao quản trị bỏ sót	Câu hỏi cho kỳ gia hạn Q3	Bằng chứng cần yêu cầu
Shadow AI ở cấp lãnh đạo	42% lãnh đạo giấu AI so với 23% nhân viên. 52% giấu vì "lợi thế bí mật".	Giả định người viết chính sách tuân thủ chính sách. Lãnh đạo đứng trên các điều khiển họ viết ra.	Hệ thống DLP, trình duyệt, SSE và đo điểm cuối của bạn có phát hiện di chuyển dữ liệu AI ở cấp lãnh đạo với phạm vi bao quát như các người dùng khác không?	Nhật ký DLP, trình duyệt, SSE và đo điểm cuối ở cấp lãnh đạo cho thấy phạm vi bao quát giống hệt các người dùng khác.
Quyền sở hữu tác nhân được định danh	85% khẳng định có chủ sở hữu định danh. Chỉ 42% nói quyền sở hữu rõ ràng. Khoảng cách 43 điểm.	Chủ sở hữu trên bảng tính. Tác nhân chạy thực tế. Không ai kiểm tra xem chủ sở hữu có thể "giết" tác nhân khi tải cao không.	Bạn có thể nêu tên chủ sở hữu cho mọi tác nhân AI không? Chủ sở hữu đó có thể thu hồi quyền truy cập trong 60 giây không?	Bản demo trực tiếp việc thu hồi quyền truy cập tác nhân trong 60 giây dưới tải sản xuất.
Đánh giá trước triển khai	65% có đánh giá rủi ro trước triển khai. Nhưng chỉ 24% nói bất kỳ chính sách AI nào được tuân thủ "rất nhất quán".	Đánh giá kiểm tra yêu cầu chức năng khi triển khai. Không bao giờ kiểm tra nguồn gốc mô hình hay trôi dạt hành vi khi chạy.	Đánh giá của bạn có bao gồm nguồn gốc mô hình không? Nó được thực thi hay chỉ mang tính tư vấn?	Chứng chỉ nguồn gốc mô hình với nhật ký thực thi cho thấy các lần triển khai bị chặn.
Thực thi chính sách	58% có chính sách sử dụng chấp nhận được. 24% tuân thủ "rất nhất quán". Đã văn bản hóa nhưng không thực hành.	Tác nhân theo đuổi mục tiêu của nó vượt qua mọi ranh giới. Việc tìm kiếm mục tiêu không dừng lại ở một tài liệu mà mô hình không bao giờ đọc.	Chính sách có được thực thi bởi các cổng phía máy chủ hay bởi sự tuân thủ của tác nhân? Bao nhiêu phần trăm hành động được cổng kiểm soát?	Dấu vôn kiểm tra cổng phía máy chủ với tỷ lệ hành động tác nhân được cổng kiểm soát so với không được kiểm soát.
Ngưỡng tin cậy	68% đã thấy ảo giác có ảnh hưởng vận hành. 49% người dùng nâng cao hoàn toàn tin tưởng kết quả.	Không có ngưỡng được mã hóa tách biệt việc thực thi tự động so với xem xét của con người.	Hành động nào của tác nhân được thực thi tự động so với yêu cầu xem xét của con người? Điều đó được thực thi trong chính sách hay trên nền tảng?	Ma trận ngưỡng được tài liệu hóa phân loại mọi hành động tác nhân là thực thi tự động hoặc xem xét của con người.
Ủy quyền cho từng hành động	Quản trị là rào cản số 1 ở mức 27%. Giám sát diễn ra hàng quý. Tác nhân hành động mỗi giây.	Ủy quyền mỗi hành động được thực thi tại thời gian chạy hay chỉ tại đánh giá triển khai? Tác nhân có thể tích lũy quyền hạn mà không cần ủy quyền lại không?	Nhật ký ủy quyền thời gian chạy cho thấy các sự kiện cổng mỗi hành động và dấu thời gian ủy quyền lại quyền hạn.

Nguồn dữ liệu từ Ivanti và các cuộc phỏng vấn độc quyền của VentureBeat.

Tại các tổ chức có quy mô lớn và quan trọng, 54% chuyên gia IT cho biết AI làm công việc của họ nhanh hơn và tốt hơn. Tại các tổ chức thử nghiệm sớm, con số này chỉ là 24%. Ở các tổ chức đã mở rộng quy mô, trách nhiệm giải answer nằm trong nền tảng. Ở những tổ chức sớm hơn, nó nằm trong một tài liệu mà tác nhân không bao giờ đọc.

Sáu câu hỏi trên mang lại cho mọi CISO một cách để kiểm tra xem quản trị của họ thực sự hoạt động ở nơi quan trọng nhất: Tại thời gian chạy, dưới áp lực tải, và trước khi lần kiểm tra gia hạn hợp đồng tiếp theo diễn ra.