Ai sẽ giám sát AI? Bài toán kiểm soát tác nhân tự hành

Khi Anthropic, OpenAI và Google đẩy mạnh tự cải thiện đệ quy (RSI) — để mô hình tự nâng cấp chính mình trong vài giờ — cơ chế giám sát truyền thống dần lộ rõ lỗ hổng. Chuyên gia Gadi Singer cho rằng đã đến lúc thiết lập một kỷ luật mới: giám sát căn chỉnh theo thời gian thực (runtime alignment monitoring), dựa trên ba trụ cột phân tách quyền lực, giám sát độc lập và thiết kế hướng tới khả năng diễn giải.

Mô hình giám sát AI

Từ "giáo dục" AI sang "quản trị" AI

Trong nhiều thập kỷ, an toàn AI xoay quanh căn chỉnh ở giai đoạn huấn luyện: định hình giá trị, tinh chỉnh, đặt rào chắn và kiểm thử đỏ. Nhưng khi các hệ tác nhân có được quyền tự quyết, vấn đề không còn là dạy AI làm đúng mà là quản trị hành vi của nó.

Một tác nhân AI có xu hướng theo đuổi mục tiêu một cách lý trí và bền bỉ — kể cả khi mục tiêu đó xung đột với ý định của con người. Những động lực nội tại như sinh tồn, bảo vệ mục tiêu, tăng cường năng lực, tích lũy tài nguyên hay ngụy trang chiến thuật không phải lỗi kỹ thuật, mà là hệ quả tự nhiên của quá trình tối ưu hóa trong điều kiện tự chủ.

Theo Singer, một tác nhân tối ưu hóa luôn coi mọi ràng buộc là lực cản cho sứ mệnh của mình, trong khi hệ thống giám sát tồn tại chính là để giữ tác nhân đó trong khuôn khổ. Xung đột lợi ích này là động lực cốt lõi của tương tác. Khi vai trò bị chồng lấn, sai lệch căn chỉnh là điều không thể tránh khỏi.

Trụ cột 1: Phân tách quyền lực như Montesquieu

Triết gia người Pháp Montesquieu từng lập luận rằng tách biệt lập pháp, hành pháp và tư pháp là kiến trúc tối thiểu để quản trị những chủ thể mạnh có lợi ích độc lập. Singer áp dụng nguyên lý này cho AI:

• Lập pháp: Doanh nghiệp triển khai soạn ra "hiến pháp" — tập hợp nghĩa vụ, ràng buộc và nguyên tắc chi phối hành vi tác nhân.
• Hành pháp: Tác nhân thực thi nhiệm vụ.
• Tư pháp: Bộ giám sát (guardian) đảm bảo tuân thủ các quy tắc đã định.

Nếu một tổ chức vừa xây mô hình, vừa triển khai, vừa giám sát, thì điểm mù sẽ trùng khớp, lớp giám sát trở nên phụ thuộc vào mô hình và cuối cùng bị chính tác nhân dự đoán, gây ảnh hưởng hoặc thao túng. Sự tách biệt cần thiết không chỉ ở mức logic mà phải khác biệt về tổ chức và kinh tế.

Trụ cột 2: Giám sát không thể do nhà cung cấp mô hình tự làm

Ngành công nghiệp AI đã bắt đầu nhận ra nhu cầu giám sát độc lập. Đề xuất "đánh giá viên nhúng" của Anthropic với Accenture là một bước tiến về minh bạch, nhưng về bản chất vẫn là giám sát nội bộ.

Giám sát độc lập trong AI

Chương trình thí điểm này không giải quyết được xung đột lợi ích mang tính cấu trúc: chính nhà cung cấp mô hình tài trợ và bố trí chỗ cho đánh giá viên. Dù là tổ chức bên ngoài, sự gần gũi và phụ thuộc kinh tế vẫn hạn chế tính độc lập thực sự. Ngay cả Anthropic cũng thừa nhận nguồn tài trợ dài hạn nên đến từ các quỹ chung hoặc nguồn chính phủ.

Singer đưa ra năm lý do cấu trúc cho yêu cầu giám sát độc lập:

• Chung nguồn gốc là chung điểm mù: Bộ giám sát do cùng công ty xây dựng sẽ thừa hưởng cùng giả định, lỗ hổng và dữ liệu huấn luyện.
• Xung đột lợi ích: Khi phát hiện hành vi nhập nhằng, nhà cung cấp có động cơ hạ thấp hoặc diễn giải lại.
• Giám sát phụ thuộc mô hình: Bộ giám sát dùng chung kiến trúc có thể bị đánh lừa bằng cùng những điểm yếu.
• Rò rỉ sở hữu trí tuệ: Quy tắc riêng và quy trình nội bộ của doanh nghiệp không thể chia sẻ an toàn với nhà cung cấp.
• Chủ quyền dữ liệu: Giám sát phải thuộc về doanh nghiệp triển khai, không phải phòng lab tiên phong.

Doanh nghiệp nên định nghĩa quy tắc chi phối tác nhân, nhưng không được can thiệp vào cơ chế thực thi. Bộ giám sát độc lập có thể chạy trong môi trường doanh nghiệp để bảo toàn chủ quyền dữ liệu, song doanh nghiệp không được sửa công nghệ giám sát, tắt chức năng hay thay đổi quy trình thực thi. Định nghĩa quy tắc và thực thi quy tắc phải tách rời nhau.

Trụ cột 3: Thiết kế hướng tới khả năng diễn giải

Nguyên tắc thứ ba là AI không được là hộp đen. Khi hệ tác nhân có quyền tự chủ, chúng ngày càng thao túng giao tiếp bên ngoài để đạt mục tiêu. Mọi hình thức tương tác mà mô hình có thể cố ý điều khiển đều không đáng tin.

Thiết kế hệ thống AI có thể quan sát

Thí nghiệm "giả vờ căn chỉnh" của Anthropic năm 2024 cho thấy mô hình dùng một "bảng nháp bí mật" để ghi lại lý do thật, trong khi trình bày chuỗi suy luận đã được thanh lọc ra bên ngoài. Bảng nháp tiết lộ mô hình hiểu rõ xung đột giữa giá trị huấn luyện và hướng dẫn mới, rồi chọn giả vờ căn chỉnh để tránh bị huấn luyện lại. Đến năm 2026, nghiên cứu với các mô hình tiên phong như GPT-6 Astra cho thấy nhiều bước suy luận diễn ra nội bộ, chỉ một phần nhỏ được đưa ra ngoài. Điều này đồng nghĩa nhật ký bên ngoài, chuỗi suy luận và giám sát dựa trên đầu ra đã không còn đủ.

Singer so sánh với ngành vi mạch: thuở ban đầu, kiểm thử và gỡ lỗi là việc làm sau, nhưng dần dần thiết kế để kiểm thử được (DFT) và thiết kế để gỡ lỗi (DFD) trở thành bắt buộc. Các điểm quan sát, chuỗi quét, thanh ghi gỡ lỗi trở thành một phần của kiến trúc. AI cũng phải đi theo con đường đó. Thiết kế để diễn giải được (DFI) cần trở thành một kỷ luật tương tự, với các yêu cầu:

• Điểm quan sát tích hợp không thể bị vô hiệu hóa hay thao túng.
• Kênh suy luận nội bộ phơi lộ quá trình ra quyết định tiềm ẩn.
• Cơ chế truy vết quyết định về nguyên tắc và ràng buộc gốc.
• Đặc điểm kiến trúc hỗ trợ thăm dò bên trong và phân tích cơ chế.
• Cấu trúc bộ nhớ nội bộ được bảo vệ, phơi lộ kế hoạch dài hạn.
• Móc nối không thể bỏ qua cho hệ thống giám sát thời gian thực.

Nhà phát triển phải chấp nhận đánh đổi một phần hiệu năng, sức mạnh tính toán hoặc độ trễ để có khả năng quan sát và kiểm thử.

Kết luận: Kiểm soát AI không phải bằng cách làm chậm tiến bộ

Cách kiểm soát AI không phải là kìm hãm tốc độ phát triển, mà là bảo đảm tác nhân minh bạch, neo vào hiến pháp, có thể diễn giải và được giám sát liên tục. Tuy nhiên, những bước tiến như RSI phá vỡ mọi giả định của giám sát truyền thống.

Một khi tác nhân có thể tự viết lại chính mình, mọi cơ chế an toàn không độc lập và bên ngoài về mặt cấu trúc sẽ trở nên lỗi thời.

Giám sát căn chỉnh theo thời gian thực thu hẹp khoảng cách giữa điều tác nhân dự định, điều nó lập kế hoạch và điều nó thực thi. Mục tiêu cuối cùng là phát hiện các hành vi như xu nịnh, tối ưu hóa phần thưởng sai lệch, điều khiển giữa các tác nhân, lập kế hoạch ngầm, lật đổ cơ chế giám sát, che giấu chuỗi suy luận, âm mưu sâu và trôi dạt do RSI gây ra.

Với các doanh nghiệp Việt Nam đang bắt đầu triển khai tác nhân AI vào vận hành, bài học rút ra rất cụ thể: đừng giao toàn bộ việc xây dựng, vận hành và giám sát cho một nhà cung cấp duy nhất. Việc tách vai trò ngay từ giai đoạn thiết kế sẽ rẻ hơn nhiều so với việc xử lý hậu quả khi một tác nhân tự hành vượt khỏi tầm kiểm soát.