Outerlimit gọi vốn 16 triệu USD để ngăn chặn các tác nhân AI tự trị gây hại

Outerlimit - SecurityWeek

Outerlimit, một công ty khởi nghiệp có trụ sở tại New York (Mỹ), vừa chính thức ra mắt khỏi chế độ tàng hình với 16 triệu USD vốn pre-seed. Số vốn này được huy động từ AlbionVC, Evolution Equity Partners, Crane Venture Partners cùng nhiều nhà đầu tư thiên thần cá nhân.

Công ty do Tony Pepper, Neil Larkins và Peter Vincent đồng sáng lập, cung cấp một lớp bảo mật và ủy quyền phi tập trung nhằm bảo vệ các hệ thống AI tác nhân tự trị (autonomous agentic AI).

Bài toán an ninh mới của kỷ nguyên tác nhân AI

Các doanh nghiệp đang ngày càng đẩy mạnh ứng dụng tác nhân AI tự trị để tăng tốc ra quyết định và tự động hóa hành động. Khi các mô hình AI nền tảng trở nên mạnh mẽ hơn — nhưng vẫn vận hành dựa trên xác suất thay vì chân lý đã biết — những tác nhân này được giao ngày càng nhiều mục đích phức tạp, với quyền truy cập rộng vào danh tính và thông tin xác thực của doanh nghiệp.

Tuy nhiên, khi mục đích kinh doanh của tác nhân trở nên phức tạp hơn, việc định nghĩa và giới hạn những hành động tự trị mà chúng được phép thực hiện — một quá trình gọi là căn chỉnh (alignment) — cũng trở nên khó khăn tương ứng.

"Trong kỷ nguyên tác nhân mới này, nơi các tác nhân sử dụng mô hình suy luận với quyền truy cập vào các công cụ có thể tác động đến thế giới thực, chúng đơn giản là không vận hành trong những cấu trúc của con người. Các tác nhân có thể thay đổi hành vi dựa trên những gì chúng đọc được, hoặc cách chúng tương tác với các tác nhân khác, trong khi hành động ở tốc độ máy," Peter Vincent nhận định.

Vì sao biện pháp an ninh truyền thống không còn hiệu quả?

Xuyên suốt lịch sử, an ninh mạng được xây dựng dựa trên việc hạn chế hành động của con người thông qua luật lệ (hoặc quy tắc) và nỗi sợ hậu quả. Trong thế giới rộng lớn hơn, đó là pháp luật — và nỗi sợ bị phạt tiền hoặc ngồi tù chính là hậu quả của việc vi phạm pháp luật. Trong an ninh mạng, "luật" là quản trị (governance), và hậu quả của việc chống lại quản trị là bị sa thải.

Nhưng cơ chế này không hoạt động với các tác nhân tự trị. Chúng không có khái niệm về quy tắc hay đạo đức (ngoài chính xác những gì đã được lập trình), cũng không có nỗi sợ hậu quả. Việc kiểm soát các tác nhân AI tự trị chỉ có thể được thực thi bằng độ chính xác nội tại trong mã hóa của chúng và hiệu quả của các rào chắn bên ngoài.

Theo Vincent, chúng ta đang thất bại ở cả hai lĩnh vực này, và các sản phẩm hay quan điểm an ninh mạng hiện có không thể giúp ích.

Giải pháp của Outerlimit: Phát hiện – Quan sát – Thực thi

Vì không thể — và có lẽ sẽ không bao giờ có thể — kiểm soát được AI mà chúng ta đã tạo ra, an ninh mạng phải chuyển trọng tâm từ nỗi sợ hậu quả sang phòng ngừa tổn hại. Outerlimit sử dụng khái niệm ba nhánh để đạt được điều này:

• Phát hiện (Discover): Định vị các tác nhân trong hệ thống
• Quan sát (Observe): Theo dõi hành vi của chúng
• Thực thi (Enforce): Áp đặt chính sách đã định trước về những hành động tự trị được phép và không được phép

"Chúng tôi có thể đảm bảo rằng nếu một tác nhân được ủy quyền một token, chúng tôi có thể đảm bảo phạm vi, vị trí và các điều kiện mà token đó có thể được sử dụng. Điều này quan trọng vì chúng tôi hoàn toàn né tránh được vấn đề căn chỉnh của tác nhân," Outerlimit giải thích.

Nói cách khác, Outerlimit không quan tâm liệu một tác nhân có được căn chỉnh hay không — họ đối xử với tất cả các tác nhân như nhau. Bằng cách chứng minh được điều mà tác nhân có khả năng làm tiếp theo, hệ thống của họ luôn đi trước tác nhân một bước. Và vì vận hành ở cùng tốc độ máy với tác nhân, nó có thể vượt lên trước tính tự trị và chặn đứng bất kỳ hành động gây hại nào.

Ý nghĩa với doanh nghiệp và an ninh quốc tế

Mục đích cốt lõi của loại hình an ninh mới này cũng giống như an ninh mạng truyền thống: cho phép doanh nghiệp làm những gì họ muốn một cách an toàn. Outerlimit không phải ngoại lệ.

"Giai đoạn tiếp theo của AI doanh nghiệp không nên là cuộc đua xây dựng nhiều tác nhân nhất. Thay vào đó, thành công nên được đo bằng khả năng của một tổ chức trong việc khai thác an toàn toàn bộ sức mạnh của các triển khai tác nhân," Vincent chia sẻ. "Nếu trí tuệ trở thành hàng hóa phổ thông, niềm tin sẽ là yếu tố giới hạn. Khi chúng ta tăng tốc bước vào kỷ nguyên đồng trí tuệ mới, làm đúng điều này là nghĩa vụ cơ bản vì lợi ích của cá nhân, tổ chức và an ninh quốc tế."

Sự xuất hiện của Outerlimit phản ánh một xu hướng đáng chú ý trong ngành: khi các doanh nghiệp Việt Nam và thế giới ngày càng triển khai nhiều tác nhân AI tự trị vào quy trình vận hành, nhu cầu về các lớp kiểm soát và ủy quyền chuyên biệt cho AI cũng tăng theo. Đây được xem là một trong những mảng an ninh mạng có tiềm năng tăng trưởng mạnh nhất trong vài năm tới, khi bài toán cân bằng giữa tự động hóa và an toàn trở thành ưu tiên hàng đầu của các tổ chức.