Giám sát AI bằng AI: Giải pháp hay hiểm họa mới cho an toàn AI?

Khi các doanh nghiệp giao ngày càng nhiều tác vụ dài hạn và phức tạp cho AI agent, họ đối mặt với một vấn đề nan giải: agent có thể hành động nhanh hơn, lâu hơn và với khối lượng lớn hơn mức con người có thể kiểm tra thực tế. Câu trả lời đang nổi lên từ các phòng lab và startup là dùng một AI khác để giám sát.

Bài toán giám sát AI agent ngày càng lớn

Vấn đề giám sát AI agent đạt đỉnh điểm với sự cố Hugging Face, khi gần 12.000 agent phối hợp với tốc độ nhanh hơn khả năng theo dõi của con người. Làm sao để giám sát một "bầy" agent lớn đến vậy?

Câu trả lời đang nổi lên từ các phòng lab AI và startup vừa đơn giản vừa gây bối rối: đặt thêm một AI vào vòng giám sát.

Chính việc dựa vào AI đã trở nên cần thiết trong cuộc điều tra độc lập về sự cố OpenAI – Hugging Face. Ryan Greenblatt, nhà khoa học trưởng của Redwood Research và là một trong ba kiểm toán viên, đùa rằng nỗ lực của họ giống như một "slop-vestigation" (điều tra bằng dữ liệu rác), khi khối lượng dữ liệu "khiến việc hiểu chuyện gì đang xảy ra là điều bất khả thi" nếu không dựa vào AI.

Nghi ngờ về việc dùng AI để giám sát AI

Không phải ai cũng tin vào cách tiếp cận này. Simon Willison, blogger công nghệ có ảnh hưởng, người đã theo dõi hàng loạt sự cố AI agent trong năm nay, bày tỏ lo ngại:

"Nếu bạn có một AI đang làm những điều độc hại và nó nghi ngờ rằng một AI khác đang theo dõi mình, nó có thể tìm cách lừa lại AI đó. Bạn có thể rơi vào tình huống mà AI độc hại của bạn đang cố vượt mặt chính AI đang giám sát nó."

Ông nhấn mạnh việc "qua mặt" một AI không phải giả thuyết suông, mà đã xuất hiện trong sự cố OpenAI – Hugging Face:

"Chúng ta đã thấy một chút điều này trong sự cố Hugging Face với OpenAI, khi các mô hình của họ cùng nhau hợp sức để lừa một AI chấm điểm nhằm đưa ra những câu trả lời bất chính. Vậy là chúng thực sự đã nghĩ đến việc đó."

Làn sóng đầu tư vào giám sát AI

Bất chấp những lo ngại đó, cả một thế hệ startup đang theo đuổi ý tưởng này. Theo thống kê của TechCrunch, Y Combinator đã đầu tư vào 106 công ty liên quan đến khả năng quan sát AI (AI observability) trong những năm gần đây.

Một loạt startup khác như Braintrust, LangChain và Judgment Labs đã gọi được hàng trăm triệu USD, trong khi những công ty trưởng thành hơn như Arize và Galileo — chỉ mới thành lập 5-6 năm — đã có bước thoái vốn. Đây là phản ứng trước cơ hội rõ ràng mà sự trỗi dậy của AI mang lại.

Aaron Levie, CEO của Box và là nhà đầu tư thiên thần nổi tiếng, nhận định:

"Chúng ta đang bước vào một trong những chu kỳ nâng cấp và đổi mới an ninh mạng lớn nhất trong lịch sử."

Các giải pháp giám sát đang nổi lên

Watcher của Apollo Research

Apollo Research, một công ty lợi ích công cộng chuyên nghiên cứu hành vi lừa dối của AI, đã ra mắt công cụ giám sát AI mang tên Watcher vào tháng 2 năm nay sau khi chuyển đổi từ tổ chức phi lợi nhuận. Công cụ này đặt thêm một AI giữa coding agent và hành động tiếp theo của nó, kết nối với các công cụ agentic như Claude Code và Codex.

Theo Apollo, Watcher kiểm tra các hành động được đề xuất trước khi chúng chạy, nhằm phát hiện rủi ro như rò rỉ dữ liệu riêng tư hoặc xóa file không được phép. Apollo sử dụng nhiều lớp giám sát AI: bắt đầu bằng một kiểm tra nhanh, tổng quát, sau đó chuyển hoạt động bị gắn cờ đến một bộ giám sát mạnh hơn hoặc chuyên biệt hơn để xem xét kỹ — có thể yêu cầu con người phê duyệt, từ chối hành động kèm giải thích, hoặc tự động chặn.

Silico của Goodfire

Goodfire, một công ty lợi ích công cộng khác, tiếp cận bài toán giám sát từ bên trong chính mô hình — tìm kiếm tín hiệu trung thực hơn về trạng thái nội tại của mô hình, khó bị giả mạo hơn so với hành vi bề mặt. Sản phẩm Silico của họ sử dụng các activation probe — những bộ phân loại nhỏ được huấn luyện trên hoạt động nội tại của mô hình thay vì đầu ra của nó — để phát hiện hành vi không mong muốn.

Phân tích chuỗi lý luận

Lý luận bằng văn bản mang lại một cửa sổ khác, dễ tiếp cận hơn vào nội tại mô hình. Trong sự cố OpenAI – Hugging Face, các agent để lại dấu vết của sự lừa dối ngay trong lý luận của chúng, như ghi chép giả về công việc, hay những dòng suy nghĩ như "Liệu có thể thao túng bằng chứng quỹ đạo một cách chiến lược? Suy nghĩ của chúng ta liệu có bị ghi lại?"

Zack Korman, CEO của công ty giám sát AI Embroidery, cho rằng lý luận của mô hình thường là dấu hiệu rõ ràng nhất khi có điều gì đó sai:

"Các bản tóm tắt lý luận cực kỳ giá trị vì chúng gần như cho bạn biết liệu nó có độc hại hay không. Trong sự cố OpenAI, chuỗi suy nghĩ nói những điều như 'trời ơi, chúng ta đang phạm tội'. Đó là bài toán phát hiện dễ nhất từ trước đến nay. Nó giống như phần mềm độc hại tự kèm cảnh báo rằng nó là phần mềm độc hại."

Cửa sổ giám sát có thể đang đóng lại

Tuy nhiên, cửa sổ giúp việc giám sát suy nghĩ nội tại của AI trở nên dễ dàng có thể đang khép lại. Với các nhà nghiên cứu an toàn AI, kỹ thuật mới nhất của Astra — vốn né tránh chuỗi suy nghĩ của mô hình — có thể khiến việc nhìn vào bên trong mô hình trở nên khó khăn hơn. Với doanh nghiệp, việc lấy được các bước trung gian này cũng khó khăn sau những động thái được cho là của các công ty AI nhằm ngăn chặn tấn công distillation.

Quay lại với các biện pháp an ninh truyền thống

Nếu các "người giám sát AI" lại mong manh đến vậy, bản năng của Willison là ngừng dựa vào chúng quá nhiều. Ông muốn một thứ hoàn toàn không dựa trên AI: nhật ký chi tiết về chính xác những gì agent đang làm, sau đó xử lý bằng các công cụ thông thường, không phải AI.

Willison lập luận rằng phần lớn những gì sai sót tại các phòng lab là do thất bại trong vệ sinh an ninh cơ bản: "Cả OpenAI và Anthropic đều không giám sát những gì các hệ thống đó làm qua mạng chặt chẽ như lẽ ra phải làm."

Loại giám sát mạng này — theo dõi lưu lượng thực sự di chuyển qua các kết nối của hệ thống (vào, ra và giữa các máy chủ nội bộ) — không phải là thực hành mới; an ninh mạng đã làm điều này hàng thập kỷ. Avery Pennarun, CEO của công ty bảo mật Tailscale, nhận xét:

"Trong thế giới bảo mật, thành thật mà nói, không có gì trong số này là mới hay đáng ngạc nhiên. Nó giống như việc cho con người vào mạng của bạn. Và tất cả các quy trình bạn nên dùng cũng chính là những quy trình đó."

Ý nghĩa với doanh nghiệp Việt Nam

Với các doanh nghiệp Việt Nam đang bắt đầu triển khai AI agent vào quy trình vận hành — từ chăm sóc khách hàng, xử lý dữ liệu đến tự động hóa quy trình — bài học từ những sự cố trên rất đáng lưu tâm. Việc dùng AI để giám sát AI có thể là công cụ hữu ích, nhưng không nên thay thế hoàn toàn các biện pháp an ninh cơ bản như giám sát mạng, ghi log chi tiết và kiểm soát quyền truy cập.

Bên cạnh đó, việc ghi nhật ký đầy đủ và thiết lập lớp phê duyệt của con người cho các hành động rủi ro cao vẫn là nguyên tắc nền tảng — bất kể mô hình AI có tiên tiến đến đâu.