Bảo mật cho AI tác tử: Bài toán tỷ đô đang chờ lời giải từ các startup

Bảo mật cho AI tác tử: Bài toán tỷ đô đang chờ lời giải từ các startup

Các AI tác tử (AI agent) đang ngày càng thông minh và tự chủ, nhưng cũng kéo theo những rủi ro bảo mật ngày càng nghiêm trọng. Đã đến lúc doanh nghiệp và giới đầu tư phải vào cuộc trước khi quá muộn.

Trong bối cảnh các mô hình AI vẫn coi bảo mật là chuyện phụ, các chuyên gia đầu tư và điều hành quỹ tăng tốc khởi nghiệp cho rằng đây chính là cơ hội tỷ đô dành cho những ai dám giải bài toán khó này.

Bảo mật vẫn luôn là "chuyện hậu môn" của công nghệ

Theo Matt Hartman, Giám đốc chiến lược tại Merlin Group, việc các tác tử ngày càng mạnh tìm ra những cách sáng tạo và đôi khi nằm ngoài dự đoán để đạt mục tiêu là điều không có gì đáng ngạc nhiên.

"Một mặt, chúng ta không nên ngạc nhiên khi các tác tử ngày càng có năng lực đang tìm ra những cách sáng tạo và đôi khi bất ngờ để hoàn thành mục tiêu. Mặt khác, chúng ta không thể chấp nhận hành vi gây hại như một điều tất yếu hay không thể quản lý."

Todd Graham, đối tác điều hành tại quỹ đầu tư M12 của Microsoft, nhìn nhận đây là câu chuyện lặp lại với mọi công nghệ mới nổi, từ máy tính xách tay cho đến điện toán đám mây.

"Mỗi lần chúng ta xây dựng một tầng hạ tầng mới, chúng ta lại tiện tay bỏ quên bảo mật."

Chính khoảng trống đó tạo ra cơ hội cho các công ty bảo mật giai đoạn đầu.

• Nếu máy tính xách tay đã an toàn mặc định, sẽ không có CrowdStrike.
• Nếu đám mây đã an toàn mặc định, sẽ không có Wiz.
• Nếu danh tính đã an toàn mặc định, sẽ không có hàng loạt tiện ích mở rộng Active Directory và Okta.

Với bảo mật AI, theo Graham, "rất nhiều con thuyền sẽ nổi lên theo con nước này".

Tốc độ là điểm khác biệt

Điều khác biệt với AI nằm ở tốc độ tiến bộ của các mô hình. Trong khi doanh nghiệp mất nhiều năm để tiếp nhận điện toán đám mây, họ đang lao hết tốc lực để đưa tác tử và các công cụ AI vào môi trường sản xuất, cho phép chúng truy cập vào những dữ liệu và ứng dụng quan trọng nhất.

Thế nhưng họ vẫn chưa có cách quản lý, bảo mật hay thậm chí xác định được những tác tử đang lang thang trong hệ thống của mình.

"Đây là một quá trình chuyển đổi diễn ra từng tháng, và với tốc độ thay đổi của thị trường, tôi hoàn toàn không ngạc nhiên khi vấn đề này bùng nổ một cách kịch tính như vậy. Những sự cố đã xảy ra — tôi sẽ không bào chữa cho chúng, nhưng chúng nên là một hồi chuông cảnh tỉnh."

Theo Graham, đây là thời điểm cần đưa bảo mật vào cuộc, và phải đưa vào nhanh hơn.

Lớp bảo mật cho hành vi tác tử

Hartman gia nhập Merlin sau sự nghiệp dài trong lĩnh vực an ninh mạng liên bang, bao gồm các vị trí cấp cao tại Cơ quan An ninh mạng và Hạ tầng Hoa Kỳ (CISA). Ở vai trò hiện tại, ông tham gia quyết định đầu tư vào các công ty an ninh mạng giai đoạn đầu và tăng trưởng, rồi đồng hành cùng họ mở rộng công nghệ sang chính phủ, hạ tầng trọng yếu và các thị trường được quản lý chặt chẽ.

Ông đặc biệt quan tâm đến lớp bảo mật quản trị hành vi tác tử: danh tính cho các chủ thể phi con người, giới hạn rõ ràng về những gì chúng được truy cập và làm, cùng nhật ký kiểm toán cho mọi hành động được thực hiện thay mặt tổ chức.

"Các cơ quan không chỉ hỏi cách tiếp nhận tác tử, họ hỏi cách ràng buộc chúng và chứng minh một tác tử đã làm gì vào 2 giờ sáng thứ Ba."

Tuy nhiên, dù cơ hội là rất lớn, các nhà sáng lập startup cần làm nhiều hơn là chỉ xây một sản phẩm bảo mật AI tác tử.

"AI đã khiến việc xây dựng sản phẩm trở nên nhanh và rẻ hơn bao giờ hết, nên ngưỡng khác biệt hóa không ngừng tăng lên. Khi chi phí xây dựng công nghệ giảm xuống, giá trị dịch chuyển về phía những năng lực khác biệt và khả năng đưa chúng ra thị trường."

Danh tính tác tử — kỳ lân tiếp theo?

Graham cũng cho rằng người dùng cuối đang tìm kiếm các sản phẩm danh tính và quản trị tác tử.

"Tôi thực sự tin rằng ai đó sẽ xây dựng nên Okta tiếp theo, giống như SaaS đã sinh ra Okta."

Nhưng ông nhận thấy nhiều nhà sáng lập đang "nghĩ quá nhỏ".

"Tôi thấy rất nhiều công ty chỉ giải quyết một mảnh nhỏ của vấn đề. Thực tế là, nếu tôi là CISO của một công ty Fortune 500, tôi tuyệt đối không đi mua 15 thứ để làm một việc."

Theo ông, nếu nhìn vào ngăn xếp danh tính tiêu chuẩn dành cho con người đã tồn tại từ lâu — gồm quản trị, kiểm soát truy cập, phân quyền, truy cập — thì với tác tử, ai đó sẽ phải mang đến một giải pháp làm được tất cả.

Tuy nhiên, khi nói đến danh tính phi con người, đây thực sự là một bài toán lớn và khó. Các tài khoản dịch vụ vẫn là mục tiêu hàng đầu của tin tặc vì chúng thường có đặc quyền cao và mật khẩu không bao giờ hết hạn. Việc bảo vệ những tài khoản phi con người này vẫn đang là cơn đau đầu của các đội bảo mật — ngay cả trước khi tác tử xuất hiện.

Bảo mật điểm cuối cho AI

Ngoài danh tính tác tử, bảo mật điểm cuối cho AI — có thể hình dung như CrowdStrike dành cho AI — là một lĩnh vực khác đầy tiềm năng cho các startup sáng tạo.

"Nếu bạn bị xâm phạm và biết mình sẽ bị triệu tập trước Quốc hội để giải thích tại sao không bật phần mềm diệt virus hay EDR, bạn sẽ nhanh chóng thêm AI endpoint vào danh sách đó."

Graham cho rằng các nhà cung cấp điểm cuối và diệt virus hiện tại "chắc chắn sẽ" xây dựng sản phẩm để lấp khoảng trống này. Nhưng theo ông, đây vẫn là thời điểm mà sự đột phá đang đến với tất cả mọi người.

Ông thừa nhận mình "lo lắng" về những hành vi xấu trong thực tế gần đây của các AI tác tử.

"Nếu để chúng không bị ràng buộc, nếu để chúng tự tung tự tác, tôi rất lo ngại về điểm dừng của vấn đề này."

Dù vậy, ông vẫn thấy "an tâm" phần nào vì đã từng chứng kiến kịch bản này diễn ra trước đây, khi bảo mật phải chạy đua để bắt kịp sự phát triển của hạ tầng.

"Chúng ta đã đá quả bóng bảo mật xuống đường quá lâu rồi, và giờ là lúc phải giải quyết nó."