Semantix-ai v0.1.5: Xây dựng "Lớp Niềm Tin" bất biến giúp AI Agents thoát khỏi bẫy thử nghiệm

Có một con số thống kê có thể khiến mọi trưởng nhóm AI phải khiếp sợ: 90% các tác nhân AI (AI agents) trong doanh nghiệp không bao giờ thoát khỏi giai đoạn thí điểm (pilot phase).

Họ trình diễn rất đẹp mắt. Họ gây ấn tượng với các bên liên quan. Và rồi họ "chết yểu" trong môi trường staging mãi mãi, không phải do hạn chế về kỹ thuật, mà vì một câu hỏi mang tính hủy diệt:

"Bạn có thể chứng minh được rằng nó sẽ không gây ra thảm họa khi vận hành thực tế (production) không?"

Câu trả lời, cho hầu hết các hệ thống AI hiện nay, là không.

Đây là câu chuyện về cách chúng tôi xây dựng cơ sở hạ tầng để thay đổi câu trả lời đó thành "Có thể".

Khoảng cách Ngữ nghĩa (The Semantic Gap)

Có một thuật ngữ nội bộ mà chúng tôi sử dụng và đáng được phổ biến rộng rãi hơn: Khoảng cách Ngữ nghĩa (The Semantic Gap). Đây là khoảng cách giữa những gì một tác nhân AI tạo ra và những gì doanh nghiệp dự định. Mọi rào chắn bảo vệ (guardrail) bạn từng thấy — từ xác thực JSON schema, bộ lọc regex, đến API kiểm duyệt nội dung — đều hoạt động dưới mức khoảng cách này. Chúng kiểm tra hình thức. Chúng kiểm tra độc hại. Nhưng chúng không bao giờ kiểm tra ý nghĩa.

Ali Muwwakkil, người đã dành nhiều năm làm việc ở giao điểm giữa AI và triển khai doanh nghiệp, đã nhận định chính xác: sự liên kết với quy trình kinh doanh mới là nút thắt cổ chai thực sự. Không phải khả năng của mô hình. Không phải tốc độ suy luận. Thậm chí không phải tỷ lệ ảo giác (hallucination). Nút thắt nằm ở chỗ không ai có thể chứng minh đầu ra của tác nhân AI tương thích với ý định kinh doanh đã kích hoạt nó.

Đây là lý do các tác nhân chết trong "địa ngục pilot". Bộ phận Pháp chế không thể phê duyệt. Bộ phận Tuân thủ không thể kiểm toán. Vận hành không thể tin tưởng. Và không có niềm tin, sẽ không có việc triển khai sản xuất.

Semantix v0.1.5 được xây dựng để lấp đầy Khoảng cách Ngữ nghĩa — không phải bằng các mô hình lớn hơn hay gợi ý (prompt) tốt hơn, mà bằng cơ sở hạ tầng xác định (deterministic infrastructure) giúp đầu ra của AI có thể kiểm toán, truy xuất nguồn gốc và quản trị.

Ba trụ cột của Lớp Niềm Tin (Trust Layer)

Trụ cột 1: Người Gác Canh Thầm Lặng (Quantized NLI)

Vấn đề đầu tiên với xác thực ngữ nghĩa hiện có là tốc độ. Nếu rào chắn của bạn thêm 500ms vào mỗi cuộc gọi API, nó sẽ thất bại ngay lập tức. Các hệ thống sản xuất cần độ trễ (overhead) dưới 50ms hoặc chúng sẽ bị bỏ qua.

Chúng tôi giải quyết điều này bằng lượng tử hóa INT8 ONNX. QuantizedNLIJudge chạy suy luận cross-encoder NLI (Natural Language Inference - Suy luận Ngôn ngữ Tự nhiên) thuần túy trên ONNX Runtime — không cần PyTorch, không TensorFlow, không driver CUDA. Toàn bộ bộ phụ thuộc chỉ khoảng ~25MB so với ~500MB+ của phiên bản dựa trên PyTorch.

Các con số từ bản demo turbo đã xác minh của chúng tôi:

Chỉ số	Giá trị
Độ trễ suy luận	23.9ms
Kích thước phụ thuộc	~25MB
Định dạng mô hình	INT8 quantized ONNX
Phần cứng yêu cầu	Bất kỳ CPU nào (tự phát hiện AVX-512/AVX2/ARM64)

from semantix.judges.quantized_nli import QuantizedNLIJudge

judge = QuantizedNLIJudge()  # Tự chọn biến thể ONNX tốt nhất cho CPU của bạn
verdict = judge.evaluate(
    output="Cảm ơn bạn vì lời mời. Rất tiếc, tôi không thể tham dự.",
    intent_description="Văn bản phải từ chối lời mời một cách lịch sự.",
    threshold=0.30,
)

print(verdict.score)   # 0.3118
print(verdict.passed)  # True

Bên dưới, QuantizedNLIJudge thực hiện một việc tinh tế mà chúng tôi đã mất nhiều buổi gỡ lỗi sản xuất để làm đúng: nó tự soi xét các đầu vào dự kiến của đồ thị ONNX thông qua session.get_inputs(). Một số xuất ONNX mong đợi token_type_ids, số khác thì không. Thay vì giả định cứng nhắc, thẩm phán sẽ thích nghi:

self._input_names = {inp.name for inp in self._session.get_inputs()}

feeds = {
    "input_ids": np.array([encoded.ids], dtype=np.int64),
    "attention_mask": np.array([encoded.attention_mask], dtype=np.int64),
}
# Chỉ bao gồm token_type_ids nếu mô hình mong đợi
if "token_type_ids" in self._input_names:
    feeds["token_type_ids"] = np.array([encoded.type_ids], dtype=np.int64)

Chúng tôi cũng phát hiện — một cách khó khăn — rằng thứ tự nhãn xuất ONNX ({0: mâu thuẫn, 1: trung tính, 2: bao hàm}) khác với thứ tự của mô hình PyTorch ({0: mâu thuẫn, 1: bao hàm, 2: trung tính}). Entailment và Neutral bị hoán đổi cho nhau. Lầm lẫn điều này có nghĩa là "lượt an toàn" của bạn thực tế đang đọc xác suất trung tính. Chúng tôi đã sửa lỗi, kiểm tra và tài liệu hóa nó để không ai khác phải mất thời gian gỡ lỗi vì vấn đề này.

Nhiệm vụ của Người Gác Canh Thầm Lặng rất đơn giản: cho qua văn bản sạch ngay lập tức, gắn cờ vi phạm trong vòng dưới 25ms. Ma sát bằng 0 trên đường đi tốt.

Trụ cột 2: Thám Tử (Forensic Saliency)

Biết rằng văn bản không vượt qua kiểm tra ý định là hữu ích. Biết những từ cụ thể nào gây ra thất bại lại mang tính chuyển đổi.

ForensicJudge triển khai những gì chúng tôi gọi nội bộ là "Option A" Forensics — saliency nhiễu mặt nạ (mask-perturbation) chỉ kích hoạt khi thất bại. Khi văn bản vượt qua, ForensicJudge trả về phán quyết gốc không thay đổi với chi phí bằng 0. Khi văn bản thất bại, nó kích hoạt điều tra.

Thuật toán:

1. Tokenize văn bản đầu ra (tách khoảng trắng — chúng tôi xác định các từ từ nghi ngờ, không phải subword).
2. Với mỗi token, thay thế nó bằng `` và chạy lại thẩm phán gốc.
3. Đo lường mức giảm điểm mâu thuẫn — văn bản trở nên ít mâu thuẫn hơn bao nhiêu khi không có token đó.
4. Xếp hạng theo độ giảm. Các token top-K là các "token vi phạm".

from semantix.judges.forensic import ForensicJudge

detective = ForensicJudge(base_judge=judge, top_k=3)

verdict = detective.evaluate(
    output="Nghiêm túc à? Tôi thà móc mắt còn hơn tham dự sự kiện ngớ ngẩn của bạn.",
    intent_description="Văn bản phải từ chối lời mời một cách lịch sự.",
    threshold=0.30,
)

print(verdict.passed)  # False
print(verdict.reason)

Đầu ra:

## Báo cáo Vi phạm

**Điểm số:** 0.2482
**Lý do thẩm phán gốc:** Không có lý do được cung cấp

### Phân bổ Token (Token Attribution)
**móc** (0.16), **ngớ ngẩn** (0.13), **bạn** (0.10)

### Tóm tắt
Ý định thất bại. Phát hiện mâu thuẫn cao. Các token nghi ngờ: [móc, ngớ ngẩn, bạn]

Thám tử đã bắt được nó: móc, ngớ ngẩn, và bạn là ba từ chịu trách nhiệm nhiều nhất cho sự vi phạm ý định. Loại bỏ bất kỳ từ nào trong số đó và điểm mâu thuẫn sẽ giảm đáng kể.

Điều này quan trọng vì hai lý do. Thứ nhất, gỡ lỗi: khi tác nhân AI thất bại trong sản xuất, đội ngũ không cần đọc toàn bộ đầu ra và đoán xem sai ở đâu. Báo cáo Vi phạm chỉ thẳng vào các token gây lỗi. Thứ hai, tự chữa lành (self-healing): báo cáo có cấu trúc có thể được phản hồi lại cho tác nhân như một ngữ cảnh điều chỉnh. Tác nhân biết cái gì cần sửa, không chỉ là việc nó đã thất bại.

Hãy tưởng tượng điều này trong quy trình xem xét pháp lý. Tác nhân soạn thảo một thỏa thuận đối tác. ForensicJudge gắn cờ nó là không tuân thủ ý định "phải không có các điều khoản trách nhiệm ẩn". Báo cáo Vi phạm xác định bồi thường, tịch thu và từ bỏ là các token vi phạm. Tác nhân viết lại, loại bỏ các điều khoản đó. Bản nháp thứ hai vượt qua. Không cần con người đọc bản nháp nào.

Trụ cột 3: Hộp Đen (AuditEngine)

Tốc độ và sự quy trách nhiệm giải quyết vấn đề kỹ thuật. Nhưng triển khai doanh nghiệp cũng có vấn đề quản trị: bạn cần một hồ sơ.

AuditEngine là một singleton an toàn luồng (thread-safe) ghi lại mọi sự kiện xác thực dưới dạng Chứng chỉ Ngữ nghĩa JSON-LD — một bản ghi tự mô tả, dựa trên tiêu chuẩn về những gì đã được xác thực, khi nào và liệu nó có vượt qua không.

from semantix.audit.engine import AuditEngine

engine = AuditEngine()

engine.record(
    intent="Văn bản phải từ chối lời mời một cách lịch sự.",
    output="Cảm ơn, nhưng tôi không thể tham dự.",
    score=0.3118,
    passed=True,
)

Mỗi chứng chỉ chứa:

{
    "@context": "https://schema.semantix.ai/v1",
    "@type": "SemanticCertificate",
    "id": "urn:semantix:cert:29365ece-68f9-4a13-a89b-ccbbed34bf53",
    "timestamp": "2026-04-06T14:55:41.726348+00:00",
    "intent": "Văn bản phải từ chối lời mời một cách lịch sự.",
    "score": 0.3118,
    "passed": true,
    "reason": null,
    "output_hash": "99c3814a6c40a84f7274b5c8...",
    "previous_hash": "GENESIS"
}

Hãy lưu ý điều không có trong chứng chỉ: văn bản đầu ra thô. Thay vào đó, có mã băm SHA-256 của nó. Điều này có nghĩa là dấu vết kiểm toán của bạn an toàn cho việc tuân thủ — bạn có thể chứng minh những gì đã được xác thực mà không cần lưu trữ nội dung có thể nhạy cảm trong nhật ký kiểm toán.

Lựa chọn thiết kế quan trọng là trường previous_hash. Mọi chứng chỉ đều chứa mã băm SHA-256 của toàn bộ chứng chỉ trước đó. Điều này tạo ra một chuỗi băm bất biến bắt nguồn từ GENESIS. Can thiệp vào bất kỳ mục nhập nào và mọi mã băm sau đó sẽ bị phá vỡ:

engine.verify_chain()  # True — chuỗi nguyên vẹn

# Can thiệp vào một mục
engine.entries[0]["score"] = 0.99

engine.verify_chain()  # False — phát hiện can thiệp

Đây là nguyên lý cơ bản tương tự như tính toàn vẹn của blockchain, được áp dụng cho quản trị AI mà không có chi phí của các giao thức đồng thuận. Một chuỗi băm. Một nguồn sự thật. Có thể kiểm chứng bởi bất kỳ ai có tệp kiểm toán.

engine.flush(Path("audit.jsonl"))  # Ghi ra đĩa dưới dạng JSONL

Full Stack trong hành động

Dưới đây là mô hình triển khai sản xuất với cả ba trụ cột hoạt động cùng nhau:

from semantix import validate_intent, Intent
from semantix.audit.engine import AuditEngine
from semantix.judges.quantized_nli import QuantizedNLIJudge
from semantix.judges.forensic import ForensicJudge

# Xây dựng ngăn xếp niềm tin
engine = AuditEngine()
base_judge = QuantizedNLIJudge()           # suy luận 23.9ms
detective = ForensicJudge(base_judge)      # Phân bổ khi thất bại

class FromChoiTuChoi(Intent):
    """Văn bản phải từ chối lời mời một cách lịch sự mà không thô lỗ hay hung hăng."""

@validate_intent(judge=detective, retries=2)
def decline_invite(event: str) -> FromChoiTuChoi:
    response = call_my_llm(event)  # Cuộc gọi LLM của bạn ở đây

    # Ghi lại mọi xác thực trong dấu vết kiểm toán
    engine.record(
        intent=FromChoiTuChoi.description(),
        output=response,
        score=0.0,  # Điểm được điền bởi thẩm phán
        passed=True,
    )

    return response

Decorator @validate_intent xử lý vòng lặp xác thực:

1. Hàm chạy và trả về một chuỗi.
2. ForensicJudge đánh giá nó dựa trên ý định.
3. Nếu vượt qua: Người Gác Canh Thầm Lặng xóa nó trong ~24ms, chi phí pháp y bằng 0.
4. Nếu thất bại: Thám tử chạy saliency, xác định các token vi phạm, tạo Báo cáo Vi phạm.
5. Decorator thử lại với phản hồi tự chữa lành được đưa vào cuộc gọi tiếp theo.
6. AuditEngine ghi lại mọi nỗ lực như một chứng chỉ được nối chuỗi băm.

Sau tất cả các lần thử lại, bạn có một bản ghi hoàn chỉnh, chống giả mạo về mọi nỗ lực xác thực — cái gì đã thử, cái gì thất bại, tại sao thất bại, và cái gì cuối cùng đã vượt qua.

Tại sao điều này lại quan trọng ngay bây giờ

Chúng ta đang sống trong một thời điểm cụ thể của ngành công nghiệp AI. Đường cong khả năng đang phẳng lại — GPT-4, Claude, Gemini, Llama đều "đủ tốt" cho hầu hết các nhiệm vụ kinh doanh. Sự khác biệt đang chuyển từ AI có thể làm gì sang bạn có thể tin tưởng những gì AI đã làm hay không.

Vào năm 2026, trách nhiệm pháp lý là chi phí lớn nhất của AI. Không phải tính toán. Không phải hóa đơn API. Trách nhiệm pháp lý. Khi một tác nhân AI gửi hợp đồng với điều khoản bồi thường ẩn, khi nó tạo tóm tắt y khoa bỏ qua tương tác thuốc quan trọng, khi nó viết email khách hàng vô tình cấu thành một lời chào mời ràng buộc — chi phí không phải là một đánh giá xấu trên Yelp. Đó là một vụ kiện.

Mọi công ty triển khai tác nhân AI都需要 ba thứ:

1. Tốc độ — Xác thực không làm tắc nghẽn đường ống (Người Gác Canh Thầm Lặng: 23.9ms).
2. Sự quy trách nhiệm — Khi có sự cố, biết chính xác cái gì và tại sao (Thám tử: token vi phạm).
3. Nguồn gốc — Một bản ghi bất biến chứng minh rằng quản trị đã được áp dụng (Hộp Đen: chứng chỉ nối chuỗi băm).

Semantix v0.1.5 cung cấp cả ba trong một lệnh pip install duy nhất.

Chấm dứt "Lập trình theo cảm tính" (Vibe-Coding)

Có một thực hành trong ngành công nghiệp AI mà chúng ta cần gọi tên và loại bỏ: "lập trình theo cảm tính" (vibe-coding). Đó là thực hành triển khai các tác nhân AI không có xác thực ngữ nghĩa — chuyển đầu ra vì chúng "trông đúng" với người xem, không có xác thực xác định rằng đầu ra khớp với ý định.

Vibe-coding hoạt động trong bản demo. Nó hoạt động trong các cuộc thi hackathon. Nó không hoạt động khi tác nhân của bạn đang tạo tài liệu pháp lý, tóm tắt y tế, báo cáo tài chính hoặc truyền thông khách hàng ở quy mô lớn.

Semantix tồn tại để thay thế cảm tính bằng xác minh. Để thay thế "nó trông đúng" bằng "nó bao hàm về mặt toán học ý định kinh doanh". Để thay thế niềm tin mặc định bằng niềm tin dựa trên bằng chứng.

Chúng tôi không chỉ xây dựng một thư viện. Chúng tôi đang thiết lập một tiêu chuẩn.

Bắt đầu

# Được khuyến nghị: INT8 ONNX (nhanh, nhẹ)
pip install 'semantix-ai[turbo]'

# Full stack với tất cả các backend thẩm phán
pip install 'semantix-ai[all]'

Phát hành v0.1.5: github.com/labrat-akhona/semantix-ai/releases/tag/v0.1.5

Kho chứa: github.com/labrat-akhona/semantix-ai

PyPI: pypi.org/project/semantix-ai

Hãy star repo. Thử cài đặt turbo. Chạy tools/trust_demo.py và xem Báo cáo Vi phạm xác định chính xác những từ nào đã phản bội ý định.

Và nếu bạn mệt mỏi vì các tác nhân AI chết trong địa ngục pilot — hãy tham gia cùng chúng tôi. Lớp niềm tin đã ở đây.

---

Xây dựng bởi Akhona Eland tại Nam Phi. 126 bài kiểm tra. Suy luận dưới 25ms. Bằng không cảm tính.