Sự tiến hóa của kiến trúc harness cho AI agent: Từ chuỗi đến đồ thị và đến mã thực thi

Các hệ thống LLM dạng agent đang trải qua một hành trình tiến hóa rõ rệt về kiến trúc. Từ những chuỗi prompt tuyến tính đơn giản, chúng ta đã bước sang các quy trình dạng đồ thị phức tạp hơn, và gần đây nhất là các harness thực thi mã với khả năng tự kiểm chứng đầu ra. Bài viết của tác giả Karthik Ramgopal trên InfoQ phân tích chi tiết quá trình chuyển dịch này cùng những đánh đổi đi kèm.

Từ chuỗi prompt: đơn giản nhưng dễ tổn thương

Chuỗi (chain) là dạng kiến trúc sơ khai nhất của hệ thống agent, trong đó mỗi bước được nối tiếp tuyến tính: đầu ra của bước trước trở thành đầu vào của bước sau. Ưu điểm lớn nhất là tính đơn giản — dễ hiểu, dễ triển khai và dễ gỡ lỗi ở mức cơ bản.

Tuy nhiên, điểm yếu cốt tử của chuỗi là độ mong manh. Chỉ cần một mắt xích trả về kết quả sai lệch hoặc không đúng định dạng, toàn bộ chuỗi phía sau sẽ bị ảnh hưởng theo hiệu ứng domino. Không có cơ chế rẽ nhánh, không có chỗ để thử lại, và càng không có cách nào xác minh liệu đầu ra cuối cùng có thực sự đúng hay không.

Chuỗi prompt giống như một dây chuyền lắp ráp không có trạm kiểm tra chất lượng: nhanh, rẻ, nhưng sản phẩm lỗi sẽ trôi thẳng đến tay người dùng.

Đồ thị: bổ sung rẽ nhánh, thử lại và kiểm chứng

Bước tiến hóa tiếp theo là quy trình dạng đồ thị (graph). Thay vì một đường thẳng, các nút (node) được kết nối với nhiều nhánh, cho phép hệ thống:

• Rẽ nhánh có điều kiện: tùy kết quả ở mỗi nút mà chọn hướng xử lý khác nhau
• Cơ chế thử lại (retry): khi một nhánh thất bại, hệ thống có thể quay lại hoặc thử phương án khác
• Bước kiểm chứng (validation): chèn các nút xác minh để đảm bảo dữ liệu trước khi đi tiếp
• Xử lý song song: nhiều nhánh có thể chạy đồng thời để tăng tốc

Đồ thị giải quyết được bài toán độ bền vững mà chuỗi tuyến tính mắc phải. Đây cũng là nền tảng cho nhiều framework agent phổ biến hiện nay. Cái giá phải trả là độ phức tạp tăng lên đáng kể — việc thiết kế, gỡ lỗi và theo dõi luồng thực thi trở nên khó khăn hơn nhiều.

Harness mã: xác minh bằng chính quá trình thực thi

Giai đoạn mới nhất đánh dấu bước chuyển mình sang harness thực thi mã (code-executing harness). Thay vì chỉ dựa vào việc mô hình "nói" rằng kết quả đúng, harness này cho phép agent viết và chạy mã thực tế để kiểm chứng đầu ra.

Cách tiếp cận này mang lại lợi thế căn bản: bằng chứng thực thi thay vì lời khẳng định. Nếu agent tạo ra một đoạn mã tính toán, nó có thể chạy thử để xem kết quả có hợp lý không. Nếu agent sinh ra một câu truy vấn, nó có thể thực thi để xác nhận cú pháp và ngữ nghĩa. Đây là mức độ tin cậy cao hơn hẳn so với việc chỉ dựa vào văn bản mô tả.

Tuy nhiên, harness mã cũng đặt ra những thách thức riêng: cần môi trường thực thi an toàn, cần quản lý tài nguyên và đặc biệt là các vấn đề bảo mật khi cho phép mã do AI sinh ra chạy trên hệ thống thật.

Lời khuyên: chọn thiết kế đơn giản nhất đủ dùng

Kết luận quan trọng của bài viết là lời khuyên thực dụng: hãy luôn xác minh đầu ra của mô hình, và chọn thiết kế ít phức tạp nhất đáp ứng được yêu cầu về độ tin cậy, tốc độ và chi phí.

Không phải bài toán nào cũng cần đến đồ thị phức tạp hay harness thực thi mã. Với những tác vụ đơn giản, ít rủi ro, một chuỗi prompt gọn nhẹ có thể là lựa chọn tối ưu về chi phí và độ trễ. Ngược lại, với các hệ thống đòi hỏi độ chính xác cao như xử lý giao dịch tài chính hay vận hành hạ tầng, đầu tư vào kiến trúc đồ thị hoặc harness mã là hoàn toàn xứng đáng.

Nguyên tắc vàng: độ phức tạp của kiến trúc phải tương xứng với mức độ rủi ro của bài toán, không hơn.

Đối với các đội ngũ phát triển AI tại Việt Nam, đây là bài học thiết thực. Nhiều dự án có xu hướng lao ngay vào các framework agent phức tạp trong khi nhu cầu thực tế chưa đến mức đó. Việc bắt đầu từ kiến trúc đơn giản, đo lường kỹ lưỡng độ tin cậy và chi phí, rồi mới nâng cấp dần khi thực sự cần thiết, sẽ giúp tiết kiệm nguồn lực và giảm rủi ro vận hành.

Sự tiến hóa từ chuỗi đến đồ thị và đến harness mã phản ánh một xu hướng rộng lớn hơn: các hệ thống AI đang dần học cách tự kiểm chứng thay vì chỉ tin tưởng mù quáng vào đầu ra của mô hình. Đó cũng chính là hướng đi cần thiết để đưa AI từ môi trường thử nghiệm bước vào những ứng dụng thực tế đòi hỏi độ tin cậy cao.