Harness Engineering 101: Khi LLM là bộ não và harness là cơ thể

Trong thế giới AI, người ta thường chỉ nói về mô hình ngôn ngữ lớn (LLM) như thể đó là tất cả. Nhưng một LLM API thực chất không lưu trạng thái: mỗi lượt bạn gửi toàn bộ cuộc hội thoại dưới dạng một mảng JSON và nhận về văn bản. Thứ xây dựng, duy trì và bảo vệ mảng JSON đó chính là harness — và đó mới là phần quyết định một AI agent có hoạt động được hay không.

LLM là bộ não, harness là cơ thể

Cuốn sách trực tuyến Harness Engineering 101 của tác giả Isuru Wijesiri đặt ra một luận điểm đơn giản nhưng mạnh mẽ: mọi thứ mà ngành công nghiệp gọi là "agent" thực chất chỉ là một tập hợp các bản vá cho cùng một vòng lặp cơ bản — vòng lặp gửi mảng JSON lên API và nhận kết quả về.

Mỗi bản vá trong số đó đều tồn tại vì một thứ cụ thể nào đó đã hỏng. Không có abstraction thần kỳ nào ở đây cả.

Cách tiếp cận này rất đáng chú ý với lập trình viên Việt Nam đang tìm hiểu về AI agent: thay vì lao vào các framework phức tạp, cuốn sách bắt đầu từ nguyên lý gốc rồi từng bước xây dựng một agent đồ chơi khoảng 300 dòng Python thuần.

Cấu trúc: 16 chương, mỗi chương vá một lỗi cụ thể

Điểm độc đáo trong cách tổ chức của cuốn sách là mọi chương đều có cùng một khuôn mẫu: nêu ra lỗi, đưa bản vá tối giản, rồi phân tích cái giá phải trả. Không có lý thuyết suông, mỗi khái niệm đều xuất phát từ một vấn đề thực tế.

Phần I — Đường dây kết nối (không có gì là phép thuật)

Đây là phần nền tảng, gỡ bỏ cảm giác "bí ẩn" quanh LLM:

• Chỉ là một mảng JSON: làm sao để nói chuyện với mô hình
• Bộ não: hộp đen dự đoán token tiếp theo: vì sao mô hình lại hành xử như vậy
• Công cụ: JSON ánh xạ thành hàm: bộ não không thể chạm vào thế giới thực
• Vòng lặp agent: một lần gọi công cụ là không đủ
• Caching: vì sao thứ tự lại quan trọng: gửi lại mảng hội thoại tốn kém

Phần II — Vận hành đường dài (khi mảng chịu áp lực)

Khi agent chạy những tác vụ dài, mảng hội thoại bắt đầu gặp vấn đề:

• Context là ngân sách, không phải cái túi: cửa sổ ngữ cảnh bị đầy
• Subagent: phân nhánh context: một mảng không thể chứa hết công việc
• Điều hướng vòng lặp đang chạy: bộ não lệch hướng giữa chừng
• Công việc nền và thời gian: vòng lặp là đồng bộ, còn thế giới thì không

Phần III — Hệ sinh thái (gọi tên những gì bạn đã hiểu)

• Mọi framework đều là lớp bọc quanh Chương 1: giải tỏa nỗi lo về abstraction
• Mở rộng cơ thể: MCP, Skills, Deferred Loading, Hooks: năng lực không vừa trong mảng
• Debug mảng hội thoại: không thể sửa prompt mà bạn không nhìn thấy

Phần IV — Niềm tin, lĩnh vực và dữ liệu

• Phản xạ và rào chắn: vòng lặp sẽ làm điều gì đó ngớ ngẩn
• Nghiên cứu tình huống: coding agent: cơ thể cần chuyên biệt đến mức nào
• RAG thực chất vẫn là một mẫu harness từ trước đến nay: hàng nghìn tên gọi cho cùng một ý tưởng

Ngoài ra còn có phần kết luận hướng dẫn tự xây harness đồ chơi hoàn chỉnh kèm chú thích, và phần phụ lục về các chủ đề nâng cao như định tuyến mô hình, worktree và cô lập, chế độ plan mode, cùng retry, rate limit và streaming.

Vì sao lập trình viên nên đọc?

Với những ai đang làm việc với các công cụ như Cursor, Claude Code hay tự xây agent nội bộ, cuốn sách này đưa ra một góc nhìn "giải ảo thuật" rất hữu ích. Hiểu được rằng mọi agent phức tạp đều chỉ là các bản vá cho một vòng lặp JSON đơn giản sẽ giúp bạn gỡ lỗi hiệu quả hơn và không bị phụ thuộc mù quáng vào framework.

Toàn bộ sách được phát hành dưới dạng mã nguồn mở: phần văn bản theo giấy phép CC BY-NC-ND 4.0, còn mã nguồn harness và các script theo giấy phép MIT. Bạn có thể đọc trực tiếp trên GitHub, hoặc tự build bằng mdbook nếu muốn theo dõi từng bước tiến hóa của con agent đồ chơi.

Với cộng đồng công nghệ Việt Nam đang ngày càng quan tâm đến AI agent, đây là một tài liệu đáng để đưa vào danh sách đọc — không phải vì nó dạy dùng một framework cụ thể, mà vì nó dạy cách suy nghĩ đúng đắn về những gì đang diễn ra bên dưới lớp abstraction.