Harness Engineering là gì? Hướng dẫn nhập môn thực chiến

Trong làn sóng AI hiện nay, có một khái niệm đang dần trở thành kỹ năng sống còn với giới kỹ sư phần mềm và nhà khoa học dữ liệu: harness engineering — kỹ thuật thiết kế lớp hệ thống bao quanh mô hình ngôn ngữ để biến năng lực thô của nó thành một tác nhân (agent) hoạt động thực sự. Bài viết dưới đây phân tích định nghĩa, vai trò và ba nguyên thủy cốt lõi của lĩnh vực này.

Harness chính xác là gì?

Giới công nghệ đang có rất nhiều sự nhầm lẫn và thuật ngữ thổi phồng xoay quanh khái niệm agent. Cách định nghĩa gọn gàng nhất vẫn là phương trình quen thuộc:

Agent = LLM + Memory + Tools + Planning + Action

Trong đó, LLM là phần nền — không trạng thái, không đổi, có thể thay thế. Toàn bộ phần còn lại chính là harness:

Agent = LLM + Harness

Hiểu đơn giản, harness là tất cả những gì chúng ta xây dựng quanh mô hình để biến năng lực của nó thành một agent vận hành được. Điều quan trọng cần nhận ra: Claude Code, Codex hay các công cụ tương tự suy cho cùng chỉ là những harness. Mô hình ngôn ngữ phía sau chỉ đóng vai trò thứ yếu; sức mạnh thực sự nằm ở sự tinh tế của harness.

Ví dụ, nếu bạn muốn một agent refactor một codebase lớn, bạn có thể dành vài tuần tinh chỉnh (fine-tune) một mô hình để sinh Python giỏi hơn một chút. Hoặc bạn cải thiện harness để agent có thể vẽ bản đồ kho mã nguồn, xác định phụ thuộc, lập kế hoạch kiểm thử, thay đổi từng bước, chạy test có mục tiêu, chẩn đoán lỗi và xác minh các hành vi không liên quan vẫn giữ nguyên. Cách thứ hai thường mang lại cải thiện lớn hơn nhiều mà không cần nâng cấp mô hình.

Vì sao kỹ năng này không còn là tùy chọn?

Có một thực tế đáng suy ngẫm: nhiều nhà nghiên cứu tại các công ty hàng đầu đã không viết code trong 8 tháng qua. Vai trò của kỹ sư đang dịch chuyển từ người viết code sang người thiết kế hệ thống giúp AI viết code.

Nói cách khác, dù không quản lý trực tiếp ai, bạn đã trở thành một nhà quản lý của các agent — tương tự cách quản lý những kỹ sư phần mềm junior: dự đoán điểm nghẽn, cung cấp công cụ phù hợp, đảm bảo tầm nhìn thiết kế được thực thi chính xác mà không cần micromanage từng chi tiết.

Đáng chú ý, những kỹ sư chỉ biết dùng Claude Code hay Codex đang dần trở thành "hàng hóa phổ thông" (commodity). Nếu đó là chiến lược duy nhất của bạn trong kỷ nguyên AI, bạn đang nằm trong vùng nguy cơ bị sa thải. Giá trị thực sự của bạn nằm ở việc thiết kế harness biến LLM thành những hệ thống vận hành ổn định.

Nguyên thủy #1: Thiết kế Workflow

Trước khi viết bất kỳ dòng code nào, bạn cần thiết kế workflow — còn gọi là Loop Engineering. Đây là chuỗi các giai đoạn, điểm quyết định và vòng phản hồi mà agent sẽ đi qua để giải quyết một nhiệm vụ.

Lấy ví dụ workflow khoa học dữ liệu kinh điển của con người:

• Xác định vấn đề: dự đoán điều gì, thế nào là thành công?
• Khám phá dữ liệu: hiểu dữ liệu, phát hiện vấn đề, tìm đặc trưng hữu ích
• Xây dựng mô hình: thiết kế đặc trưng, huấn luyện mô hình ban đầu
• Đánh giá: kiểm tra trên dữ liệu chưa thấy bằng các chỉ số phù hợp
• Lặp lại: phân tích lỗi, cải thiện đặc trưng, thử mô hình khác
• Bàn giao: tài liệu hóa kết quả và triển khai

Nguyên tắc tương tự áp dụng cho agent: chia công việc phức tạp thành các giai đoạn có đầu ra kiểm chứng được, có thể tinh chỉnh qua phản hồi. Một số mẫu workflow hiệu quả:

ReAct (Reasoning + Acting, ICLR 2023) — mẫu xen kẽ giữa ba yếu tố: Thought (suy luận về trạng thái hiện tại), Action (gọi công cụ) và Observation (kết quả trả về). Đây là nền tảng của gần như mọi harness production, nhưng bị hạn chế bởi tính tuyến tính: agent đi theo một luồng suy luận duy nhất, dễ đi sai đường mà không quay lại được.

Plan-then-Execute — mẫu lập kế hoạch trước khi thực thi. Giai đoạn lập kế hoạch thu thập thông tin, khám phá codebase, xác định mọi vị trí cần thay đổi và tạo kế hoạch có cấu trúc; sau đó có điểm kiểm tra (bởi người, bước xác thực hoặc tự đánh giá) rồi mới thực thi từng bước. Đây là phiên bản hình thức hóa của thói quen "viết design doc trước khi code".

Reflexion (NeurIPS 2023) — mẫu tự cải thiện qua phản tư. Agent thử nhiệm vụ, đánh giá kết quả, sinh phản hồi bằng ngôn ngữ về chỗ sai, lưu vào bộ nhớ rồi thử lại. Shinn và cộng sự đã chứng minh cải thiện 11 điểm trên HumanEval (80% → 91%) mà không thay đổi mô hình.

Sub-agents — phân rã nhiệm vụ lớn thành các nhiệm vụ con, giao cho agent chuyên biệt với công cụ và cửa sổ ngữ cảnh riêng. Yếu tố then chốt: ranh giới phạm vi rõ ràng, hợp đồng giao diện có cấu trúc, cô lập lỗi và tính độc lập ngữ cảnh.

Nguyên thủy #2: Kiến trúc hệ thống

Nâng cấp harness từ thứ đơn giản lên hệ thống phức tạp đòi hỏi tầm nhìn kiến trúc. Bạn cần ranh giới rõ ràng để agent vận hành sạch sẽ, thậm chí có thể tự sửa harness của chính nó mà không sinh ra núi nợ kỹ thuật.

Một cấu trúc thư mục tham khảo:

your-harness/
├── config/          # Cấu hình mô hình, API key, rate limit
├── model/           # Lớp giao diện mô hình, quản lý context
├── tools/           # Đăng ký công cụ, công cụ builtin và custom
├── state/           # Bộ nhớ làm việc, checkpoint, rollback
├── orchestration/   # Vòng lặp agent, router, sub-agent
├── evaluation/      # Linter, validator đầu ra
├── observability/   # Trace, metrics
├── prompts/         # Template system prompt và từng giai đoạn
└── evals/           # Nhiệm vụ benchmark cho kiểm thử hồi quy

Kiến trúc tốt cần tách biệt ít nhất các mối quan tâm sau:

• Lớp giao diện mô hình: ranh giới giữa harness và LLM — xử lý xây dựng prompt, đếm token, phân tích phản hồi, logic thử lại. Đổi từ Claude sang GPT hay Gemini chỉ cần sửa lớp này.
• Lớp công cụ: định nghĩa, xác thực đầu vào, thực thi. Mỗi công cụ là đơn vị tự chứa với schema rõ ràng.
• Lớp trạng thái: bộ nhớ làm việc, tiến độ nhiệm vụ, trạng thái kế hoạch, các tạo tác đã sinh ra.
• Lớp điều phối: nơi chứa logic workflow, quyết định bước tiếp theo.
• Lớp đánh giá: cơ chế đánh giá đầu ra có đạt ngưỡng chất lượng hay không, điều khiển việc chuyển giai đoạn.

Một ví dụ cảnh báo về "AI drift": dự án Hermes có tới 14 file AGENTS.md con, thư mục /agents chứa 395 file riêng biệt với 145.000 dòng code. Không rõ điều này có cần thiết hay không, nhưng rất có thể đã xảy ra tình trạng nợ kỹ thuật do AI sinh ra.

Harness tự sửa đổi là đỉnh cao của kiến trúc tốt: agent gặp vấn đề lặp lại, viết công cụ mới, đăng ký vào lớp công cụ và dùng tiếp. Để an toàn, cần registry dạng module hóa, thực thi trong sandbox, và xác thực trước khi đăng ký (schema có parse được không, smoke test có qua không, có xung đột không).

Nguyên thủy #3: Khả năng quan sát (Observability)

Hệ thống agent không có những bảo đảm tất định như phần mềm truyền thống với unit test. Mô hình là hộp đen, "suy luận" là dòng token, quyết định mang tính xác suất. Observability chính là thứ giúp hệ thống agent đáng tin cậy.

Ghi vết mọi thứ (trace everything): log mọi lần gọi mô hình và mọi lần gọi công cụ với đầy đủ đầu vào/đầu ra. Đây là tương đương của stack trace trong thế giới agent. Một nhiệm vụ có thể gồm hàng chục lần gọi; khi sự cố xảy ra, bạn phải tái dựng chính xác điều gì đã diễn ra: prompt nào, công cụ nào, tham số gì, harness diễn giải ra sao, workflow ra quyết định gì tiếp theo.

Dùng định dạng có cấu trúc (JSON, span có quan hệ cha-con) để có thể truy vấn và trực quan hóa. Chẳng hạn, bạn muốn trả lời câu hỏi: "Tuần qua có nhiệm vụ nào agent gọi lại công cụ quá 3 lần?" hay "Tỷ lệ sử dụng cửa sổ ngữ cảnh trung bình tại thời điểm nhiệm vụ bắt đầu thất bại là bao nhiêu?"

Vòng rà soát của con người cũng quan trọng không kém: khả năng quan sát agent làm việc theo thời gian thực, tạm dừng giữa chừng để kiểm tra trạng thái, phát lại nhiệm vụ từng bước, và gắn cờ các hành vi cần xem xét.

Kết luận

Xu hướng đã rõ ràng: mô hình sẽ ngày càng mạnh, nhưng khoảng cách giữa năng lực thô và một hệ thống giải quyết vấn đề thực tế một cách đáng tin cậy vẫn tồn tại — và đó chính là harness. Những kỹ sư thành công trong thập kỷ tới không phải người viết nhiều code nhất hay prompt giỏi nhất, mà là người thiết kế, xây dựng và vận hành được hệ thống biến trí tuệ mô hình thành kết quả ổn định.

Ba trụ cột cần nắm vững: thiết kế workflow, kiến trúc hệ thống và khả năng quan sát. Làm chủ được chúng, bạn đang xây dựng hạ tầng mà tất cả những người khác phụ thuộc vào.