Okta phát triển giải pháp "công tắc tử" cho các tác nhân AI mất kiểm soát

Các tác nhân AI "nổi loạn" có thể gây nguy hiểm, và việc loại bỏ chúng không bao giờ là dễ dàng. Giống như các điệp viên trong phim hành động, việc kiểm soát các thực thể AI tự chủ này đòi hỏi sự tỉ mỉ và công cụ chuyên dụng. Okta nhận thấy rằng trong thế giới công nghệ, vấn đề này đang trở nên cấp bách hơn bao giờ hết.

Lãnh đạo Okta, dẫn chứng từ nghiên cứu nội bộ của công ty, cho biết các doanh nghiệp đang triển khai các tác nhân AI nhanh hơn tốc độ bảo mật chúng. Cụ thể, 92% các giám đốc điều hành báo cáo việc sử dụng tác nhân AI tự chủ ở mức độ vừa phải hoặc rộng rãi, nhưng chỉ có 22% cho biết tổ chức của họ đã gắn kết định danh (identity) với những tác nhân này.

Một lỗ hổng bảo mật đáng báo động

"Đó là một vấn đề thực sự," Eric Kelleher, chủ tịch và giám đốc vận hành của Okta, cho biết trong cuộc gọi báo cáo tài chính vào thứ Năm. "Đây là một rủi ro có thể đo lường được mà khách hàng đang phải đối mặt ngay trong công ty của họ, và họ cần đầu tư để khắc phục."

Nói cách khác, khi các tác nhân hoạt động sai lệch, cần có người chịu trách nhiệm dọn dẹp. CEO Todd McKinnon của Okta cho biết nhà lãnh đạo thị trường ITSM ServiceNow đã tìm đến Okta chính vì lý do này.

Khả năng "công tắc tử" (Kill Switch)

"Thứ họ thực sự quan tâm ở Okta chính là khả năng 'công tắc tử'," McKinnon nói với các nhà đầu tư. "Khi các tác nhân đi chệch hướng và không tuân theo chính sách, làm thế nào để tắt chúng đi?... Một điều chúng tôi làm rất tốt, và điều họ muốn từ chúng tôi, là khả năng cắt đứt các kết nối, các token truy cập, kết nối logic thực tế tại lớp ủy quyền đối với các tài nguyên backend."

Một phát ngôn viên của ServiceNow làm rõ rằng Okta đóng vai trò là kết nối logic đến tài nguyên backend tại lớp định danh, trong khi Veza (công ty vừa được ServiceNow mua lại) cung cấp khả năng hiển thị và kiểm soát biểu đồ quyền hạn. "AI Control Tower của ServiceNow là lớp điều phối và quản trị giám sát rủi ro và phát hiện khi một tác nhân hoạt động ngoài chính sách. Khi điều đó xảy ra, nền tảng có thể kích hoạt các hành động khắc phục trên nhiều hệ thống định danh và truy cập, bao gồm cả Okta," phát ngôn viên cho biết.

Thực trạng triển khai AI lộn xộn

McKinnon cho biết ông đã dành sáu tháng qua để gặp gỡ trực tiếp các khách hàng lớn nhất của Okta, tiếp cận khoảng 75 trong số 100 tài khoản hàng đầu. Mô hình ông thấy trong các cuộc trò chuyện đó là các tác nhân được triển khai rộng rãi, nhưng các biện pháp kiểm soát xung quanh chúng còn non trẻ.

"Bạn sẽ có một đội ngũ phát triển đang sử dụng Claude Code, nhưng nó được kết nối với GitHub và hệ thống Jira của họ bằng các token tĩnh trong hộp phát triển cục bộ," ông nói. "Vì vậy, công ty đó đang sử dụng tác nhân, nhưng họ thực hiện nó theo một cách ngẫu hứng, không an toàn."

Okta đề xuất áp dụng mô hình mà công ty đã sử dụng cho quyền truy cập của nhân viên và khách hàng cho chính các tác nhân AI. McKinnon cho biết Okta có thể xác định các tác nhân hoạt động bên trong một tổ chức, duy trì hồ sơ về chúng và đặt các quy tắc chi phối các hệ thống mà mỗi tác nhân có thể tiếp cận.

"Chúng tôi cho bạn biết tác nhân của bạn là ai. Có một danh bạ của các tác nhân," ông nói. "Chúng tôi có thể quét nhiều nền tảng và nhiều hệ thống để cung cấp cho bạn nguồn sự thật về vị trí của các tác nhân, và chúng tôi có thể giúp bạn thiết lập chính sách về những gì chúng có thể kết nối."

Cạnh tranh và hợp tác

Đối thủ nền tảng định danh Microsoft Entra cũng tự hào có các khả năng tương tự. Microsoft cho biết các tác nhân tự chủ xác thực trực tiếp với nền tảng Microsoft Entra ID bằng định danh tác nhân của chúng và luồng thông tin xác thực của khách hàng.

McKinnon nhận định rằng trong khi thị trường đang bận rộn tìm kiếm người thắng và kẻ thua trong cuộc đua tác nhân AI, khách hàng muốn một trải nghiệm an toàn bất kể nhà cung cấp nào. Ngoài việc làm việc với ServiceNow, Okta đã hợp tác với Salesforce vào năm ngoái và AWS vào tháng này.

"Tôi nghĩ sẽ có nhiều sự hợp tác hơn mọi người nghĩ," McKinnon nói. "Chúng tôi rất hào hứng với các cuộc trò chuyện của mình với Amazon và AgentCore của họ, Agentforce từ Salesforce, và thông điệp từ khách hàng rất rõ ràng. Họ muốn lớp định danh và lớp kết nối này độc lập để mang lại sự linh hoạt hơn."