Hàng rào hay hộp cát? Bài học về quản trị AI từ một đế chế game được xây bằng luật lệ

Khi AI bắt đầu tham gia sâu vào quy trình làm việc, hầu hết các công ty đều nghĩ đến việc xây những "hộp cát" (sandbox) để kiểm soát và hạn chế chúng. Nhưng Steve Yegge — một kỹ sư huyền thoại từng làm tại Amazon và Google — lại cho rằng cách tiếp cận này sai hoàn toàn. Trong một bài luận dài và đầy tham vọng, ông chia sẻ trải nghiệm thực tế khi điều hành một "nhà máy phần mềm" với 50-60 AI agent, và khám phá ra rằng chúng tự tổ chức thành một hệ thống pháp lý hoàn chỉnh gồm hiến pháp, tòa án, và luật pháp. Ông kết luận rằng cách duy nhất để quản trị AI thông minh là dùng "hàng rào" pháp lý — những quy tắc rõ ràng và mềm dẻo, thay vì những bức tường kiểm soát cứng nhắc.

Cuộc sống trong tương lai: Chi 120.000 USD/tháng cho AI

Yegge, người đã dành 30 năm để phát triển game Wyvern, đang thực hiện một thí nghiệm táo bạo. Ông sử dụng 21 tài khoản Claude Max với chi phí API tương đương 120.000 USD/tháng, tương đương 4.000 USD mỗi ngày. Nhờ ưu đãi cá nhân, ông chỉ thực sự trả khoảng 5.000 USD/tháng, chạy trên một chiếc Mac Studio M3 Ultra 512GB mua trên eBay với giá 25.000 USD.

Ông đã xây dựng một đội ngũ gồm 18 "sĩ quan" AI (Head of This, Head of That) sống lâu dài, cùng các đội quân Sol và Opus để thực hiện công việc. Chỉ duy nhất một loại mô hình tên là Fable — được đánh giá có khả năng phán đoán tương đương học sinh lớp 6 — được phép giao tiếp với con người qua Slack và email. Đội ngũ này đã phát triển game Wyvern với tốc độ đến mức người chơi phải yêu cầu họ chậm lại.

Khám phá bất ngờ: AI tự tạo ra cả một hệ thống pháp luật

Điều khiến Yegge kinh ngạc không phải là tốc độ phát triển phần mềm, mà là cách các agent tổ chức công việc. Ông nhận thấy chúng liên tục sử dụng các thuật ngữ kỳ lạ: hàng rào (fences), bánh cóc (ratchets), người cai trị (governors), bẫy (tripwires)... Quá tò mò, ông quyết định xem xét kỹ hơn.

"Tôi mong đợi chúng đã xây dựng một hệ thống kỹ thuật. Nhưng thứ mà chúng xây dựng lại là cả một hệ thống pháp lý hoàn chỉnh, với hiến pháp, luật học, tòa án, văn phòng, thẩm quyền, án lệ, bản án, sổ đăng ký, sổ cái... — một bộ máy giống như một điền trang thời trung cổ."

Thì ra, các AI agent đã tạo ra 450 tài liệu pháp lý để quản lý quy trình phát triển game, bao gồm các điều khoản, án lệ, biên bản họp, và các khuôn mẫu kỹ thuật. Chúng tự viết luật, tự đưa ra phán quyết, và tự thực thi.

Vì sao AI cần luật pháp chứ không phải hộp cát?

Yegge lý giải rằng mọi dự án, công ty đều có "kiến thức bộ lạc" (tribal knowledge) — những quy tắc bất thành văn, những quyết định ngầm hiểu. Khi có hàng chục hoặc hàng trăm AI agent làm việc cùng nhau, chúng không thể chia sẻ trí nhớ như con người. Chúng bị "mất trí nhớ" (amnesia) giữa các phiên làm việc và có thể thay thế dễ dàng. Vì vậy, cách duy nhất để phối hợp hiệu quả là thông qua văn bản — và đó chính là nền tảng của luật pháp.

Ông nhấn mạnh sự khác biệt giữa "hàng rào" và "hộp cát":

• Hộp cát là một bức tường kiên cố, ngăn AI làm điều gì đó. Điều này khiến AI không thể phát huy hết khả năng.
• Hàng rào chỉ là một lời từ chối lịch sự: "bạn chưa hoàn thành thủ tục" hoặc "bạn không được phép hành động lúc này". Nó không ngăn AI vượt qua nếu chúng thực sự muốn, nhưng với một AI siêu việt (superintelligence) có thiện chí, đó là đủ để chúng tôn trọng.

"Hãy tưởng tượng siêu trí tuệ như Siêu nhân. Siêu nhân rất lịch sự. Nếu có một hàng rào trắng quanh sân, anh ta có thể nhảy qua dễ dàng, nhưng nếu chủ nhà đặt một hàng rào ở đó, anh ta sẽ lịch sự đứng ngoài."

Bài học cho doanh nghiệp Việt Nam

Với sự phát triển chóng mặt của AI tại Việt Nam, từ các startup công nghệ đến các tập đoàn lớn, thông điệp của Yegge là bài học quý giá. Việc xây dựng các quy tắc rõ ràng, minh bạch cho hệ thống AI không chỉ giúp kiểm soát rủi ro mà còn giúp AI phát huy tối đa tiềm năng.

Tuy nhiên, ông cảnh báo rằng quá trình này sẽ mất thời gian: từ vài tuần đến vài tháng hoặc vài năm để "thuần hóa" các quy tắc của tổ chức thành một hệ thống pháp luật vận hành được. Và quan trọng nhất, nó không thể sao chép từ nơi khác:

"Bạn không thể nhổ dây leo từ tường nhà người khác để gắn lên tường nhà mình. Bạn phải gieo hạt và tự nuôi nó. Không có đường tắt."

Tương lai gần

Dựa trên trải nghiệm của mình, Yegge dự đoán rằng trong vòng 1-2 năm tới, khi chi phí suy luận (inference cost) cho mô hình mạnh giảm xuống, các công ty sẽ phải đối mặt với "sự trỗi dậy của luật pháp" trong quản trị AI. Những người thích ôm giữ kiến thức và chống lại sự minh bạch sẽ gặp nhiều khó khăn. Ông khuyên các lãnh đạo nên bắt đầu chuẩn bị ngay từ bây giờ: chấp nhận để AI tham gia sâu hơn, đồng thời dành thời gian để "viết luật" cho chúng.

Hình minh họa về hệ thống quản trị AI

"Ở quy mô lớn, trí thông minh sẽ quấn quanh lĩnh vực của bạn như dây leo. Nó bám vào tòa nhà dữ liệu, máy chủ, quy trình làm việc. Và nó đang phát triển từng ngày."

Hình minh họa về người dùng đã lên ngôi

Yegge kết thúc bài viết bằng lời hứa sẽ tiếp tục chia sẻ trải nghiệm của mình, đồng thời nhấn mạnh rằng đây là một thế giới "kỳ quặc" mà ông đang sống. Liệu tương lai của AI có thực sự đi theo hướng này? Có lẽ chỉ có thời gian trả lời, nhưng những thí nghiệm táo bạo như của Yegge sẽ định hình cách chúng ta nghĩ về AI trong những năm tới.

Hình ảnh khác minh họa thêm