Khi AI tự hành động: Quản trị phải nằm ở tầng dữ liệu

Khi các doanh nghiệp trao cho AI agent quyền tự chủ — khả năng lập kế hoạch, ra quyết định và hành động xuyên hệ thống mà không cần con người phê duyệt từng bước — một câu hỏi khó chuyển vào trung tâm của mọi cuộc đánh giá kiến trúc: Khi một agent cố hoàn thành hành động mà nó chưa bao giờ được ủy quyền, điều gì thực sự ngăn chặn nó? Câu trả lời là quản trị phải được thực thi được và đặt ngay tại tầng dữ liệu vận hành, không phải ở các lớp chính sách trừu tượng hay lời hứa từ mô hình.

Vì sao lớp kiểm soát quanh agent không đủ?

Bản năng ban đầu của nhiều tổ chức là thêm các rào chắn xung quanh agent: hướng dẫn, chính sách và giám sát chồng lên trên mô hình. Những cơ chế này quan trọng, nhưng có một giới hạn cấu trúc: quy tắc "không bao giờ mở cửa xe" nghe hợp lý cho đến khi bạn thực sự phải quyết định có mở cửa hay không. Kiểm soát ở tầng agent chỉ đáng tin cậy khi đầu ra của agent có thể dự đoán được, trong khi tự chủ chính là đặc tính khiến đầu ra đó khó dự đoán.

Quản trị phụ thuộc vào việc xem xét hành động trước khi nó xảy ra không thể theo kịp một hệ thống hoạt động trong mili-giây, trên nhiều hệ thống cùng lúc. Vì vậy, quản trị phải trở thành executable (thực thi được tại thời điểm đó), và được thực thi tại đúng nơi agent hoạt động: tầng dữ liệu vận hành.

Tầng dữ liệu là điểm thực thi quyền lực

Agent tạo ra giá trị bằng cách chạm vào dữ liệu: truy vấn, truy xuất, biến đổi và ngày càng hành động trên đó. Một chính sách nói rằng agent không nên tiếp cận một lớp dữ liệu nhất định chỉ có ý nghĩa nếu hệ thống có thể từ chối quyền truy cập tại thời điểm agent yêu cầu. Nguyên tắc AI phải có thể kiểm toán (auditable) cũng chỉ có ý nghĩa nếu tổ chức có thể tái dựng lại agent đã làm gì, chạm vào dữ liệu nào, thay mặt người dùng nào và kết quả ra sao.

Khi quản trị sống ở tầng dữ liệu, nó vẫn đúng bất kể agent được xây dựng thế nào hay hành xử ra sao, vì kiểm soát là thuộc tính của chính cơ sở dữ liệu, không phải lời hứa từ phía agent.

Hành vi agent có thể xác suất, nhưng quản trị thì không thể

Doanh nghiệp không nên trông cậy vào việc mô hình "chọn" tuân thủ chính sách. Chính sách phải được hệ thống thực thi — đó là sự khác biệt giữa hy vọng một tác nhân ở trong giới hạn và xây dựng giới hạn mà nó không thể vượt qua ngay từ đầu.

Các kiểm soát khiến điều này thành hiện thực là những thứ nhiều doanh nghiệp đã vận hành ở tầng dữ liệu: kiểm soát truy cập dựa trên vai trò (RBAC) và thuộc tính (ABAC), bảo mật cấp hàng và cấp cột, phân loại và che giấu dữ liệu (masking), policy as code, và nhật ký kiểm toán đầy đủ.

Điều agent thay đổi không phải là cơ chế, mà là cơ chế phải nhận diện ai. Quản lý danh tính phải coi agent là một principal hạng nhất, có định danh riêng và mục đích khai báo khi phiên hoạt động bắt đầu. Khi mục đích được gắn với định danh, policy engine có thể đánh giá nó giống như cách đánh giá vai trò hoặc phòng ban hiện nay.

Khung 9 kiểm soát, nhóm theo 3 mệnh lệnh

Thực thi (Enforce it)

• Kiểm soát truy cập dựa trên vai trò và thuộc tính, thực thi tại thời điểm truy vấn — cho cả agent lẫn người dùng.
• Che giấu cột động (dynamic column masking) theo cùng một đường dẫn chính sách.
• Danh tính agent là principal hạng nhất, với mục đích khai báo gắn khi phiên bắt đầu và người dùng đại diện được giữ nguyên.

Thấy và chứng minh (See it and prove it)

• Phân loại và gắn thẻ dữ liệu để điều khiển chính sách.
• Nhật ký kiểm toán cấp phiên ghi lại agent nào hành động, cho người dùng nào, theo mục đích khai báo nào.
• Truy vết (lineage) xuyên các pipeline, để kết quả có thể truy về yêu cầu tạo ra nó.

Thống nhất và gia cố (Unify and harden)

• Quản lý chính sách tập trung, di động được.
• Mã hóa ở trạng thái lưu trữ (at rest) và khi truyền (in transit).
• Thực thi nhất quán trên on-prem, cloud, và môi trường sovereign hoặc air-gapped.

"Mục đích khai báo tạo nên sự khác biệt. Nó trở thành một thuộc tính mà lớp truy cập đã hiểu, được đánh giá trên cùng đường dẫn chính sách như vai trò và bảo mật cấp hàng. Cơ chế thực thi không đổi. Điều đổi là mục đích của agent nằm trong những gì được đánh giá và được chứng minh sau đó", Priyanka Jain, VP product management về dữ liệu & AI governance tại EDB, chia sẻ.

Sợi dây kỹ thuật số, không phải cánh cửa khóa

Mục tiêu không phải là chặn agent làm việc hữu ích, mà là xác định: agent có thể đi bao xa, chạm vào gì, thay đổi gì, điều gì cần leo thang (escalation), và tổ chức có thể tái dựng sự kiện như thế nào nếu có sự cố. Được quản trị theo cách này, agent trở nên được định danh, giới hạn phạm vi, giám sát và kiểm toán được.

Doanh nghiệp có thể áp dụng chúng nhanh hơn vì đội ngũ an ninh, rủi ro và lãnh đạo tin tưởng mô hình vận hành bên dưới.

Mở, có chủ quyền, và thực thi tại nguồn

Xây dựng trên Postgres mã nguồn mở, nền tảng này giúp doanh nghiệp kiểm soát dữ liệu của họ ở đâu, ai có thể tiếp cận và theo chính sách gì — mà không trao quản trị cho một lớp họ không sở hữu hoặc không thể kiểm tra. Với các ngành được quản lý chặt (regulated industries), sự kết hợp giữa chủ quyền dữ liệu và thực thi tại nguồn không chỉ là tiện ích, mà là điều kiện tiên quyết để đưa agent vào sản xuất.

Hệ thống agentic sẽ ngày càng thông minh và tự chủ hơn. Đó là lý do để cân nhắc kỹ nơi kiểm soát nằm, chứ không phải lý do để chậm lại. Các doanh nghiệp thực thi quản trị tại tầng dữ liệu có thể tiến nhanh trên hành trình AI, vì thứ bảo vệ dữ liệu của họ không chỉ là hy vọng.

Bài viết dựa trên nội dung trình bày của EDB, một nền tảng dữ liệu và AI sovereign cấp doanh nghiệp mã nguồn mở, hợp nhất khối lượng công việc giao dịch, phân tích và AI — với quản trị được thực thi nơi dữ liệu sống. Tác giả gốc: Max Romanenko, CTO của EDB.