Tại sao AI Agents cần Luồng điều khiển thay vì Prompt phức tạp?

Luận điểm chính của bài viết này rất rõ ràng: để các tác nhân AI (Agents) có thể xử lý các nhiệm vụ phức tạp một cách đáng tin cậy, chúng cần luồng điều khiển xác định (deterministic control flow) được mã hóa trong phần mềm, chứ không phải những chuỗi lời nhắc (prompt) ngày càng cầu kỳ.

Nếu bạn từng phải viết những chữ in hoa như "BẮT BUỘC" hoặc "KHÔNG ĐƯỢC BỎ QUA" trong prompt của mình, nghĩa là bạn đã chạm đến giới hạn của kỹ thuật tạo lời nhắc.

Hãy tưởng tượng một ngôn ngữ lập trình mà ở đó các câu lệnh chỉ là những gợi ý, và các hàm có thể trả về kết quả "Thành công" ngay cả khi chúng đang bị ảo giác (hallucinating). Trong bối cảnh đó, lập luận logic trở nên bất khả thi, và độ tin cậy của hệ thống sẽ sụp đổ khi độ phức tạp của nhiệm vụ tăng lên.

Phần mềm mở rộng quy mô thông qua tính kết hợp đệ quy: các hệ thống được xây dựng từ thư viện, mô-đun và các hàm. Đó là mã nguồn ở mọi tầng sâu. Mã nguồn thể hiện hành vi có thể dự đoán được, cho phép thực hiện lập luận cục bộ. Chuỗi prompt lại thiếu thuộc tính quan trọng này. Mặc dù hữu ích cho các nhiệm vụ hẹp, prompt mang tính phi xác định (non-deterministic), được xác định yếu và rất khó xác minh.

Để đạt được độ tin cậy, chúng ta cần chuyển logic ra khỏi văn xuôi và đưa vào runtime. Chúng ta cần các giàn giáo xác định (deterministic scaffolds): các chuyển đổi trạng thái rõ ràng và các điểm kiểm tra xác nhận coi LLM là một thành phần, chứ không phải là toàn bộ hệ thống.

Tuy nhiên, việc điều phối xác định chỉ mới giải quyết được một nửa vấn đề. Trong một hệ thống dễ bị lỗi thầm lặng, một tác nhân không có khả năng phát hiện lỗi quyết liệt chỉ là một cách nhanh chóng để đi đến một kết luận sai lầm. Nếu không có sự xác minh theo chương trình, chúng ta chỉ còn ba lựa chọn:

• Người giám sát (Babysitter): Giữ con người trong vòng lặp để bắt lỗi trước khi chúng lan truyền.
• Kiểm toán viên (Auditor): Thực hiện xác minh đầu cuối toàn diện sau khi chạy xong.
• Cầu nguyện (Prayer): Chấp nhận đầu xuất dựa trên cảm tính.