LinkedIn xây dựng lớp ngữ cảnh tổ chức cho AI agent bằng MCP như thế nào?

Khi các coding agent ngày càng được tích hợp sâu vào quy trình phát triển phần mềm, một câu hỏi lớn đặt ra: làm sao để AI hiểu được ngữ cảnh của một tổ chức có hàng triệu dòng mã nguồn? Tại LinkedIn, kỹ sư Ajay Prakash đã chia sẻ cách họ xây dựng một lớp ngữ cảnh tổ chức dành riêng cho AI agent, dựa trên Model Context Protocol (MCP).

Bài trình bày này không chỉ là câu chuyện kỹ thuật thuần túy, mà còn là bài học thực tiễn cho bất kỳ doanh nghiệp nào đang muốn đưa AI vào quy trình phát triển phần mềm quy mô lớn.

Vấn đề: AI agent lạc lối trong cơ sở mã nguồn khổng lồ

Các mô hình ngôn ngữ lớn (LLM) dù rất mạnh trong việc sinh mã, lại gặp giới hạn nghiêm trọng khi phải làm việc với những monorepo khổng lồ — nơi hàng nghìn dịch vụ, thư viện và quy ước nội bộ đan xen vào nhau.

Những hạn chế điển hình bao gồm:

• Thiếu bộ nhớ quy trình: Agent không biết quy trình chuẩn của tổ chức để xử lý một tác vụ cụ thể.
• Khó tìm đúng mã nguồn: Việc tìm kiếm trong hàng triệu tệp đòi hỏi ngữ cảnh mà LLM không có sẵn.
• Không nắm được runbook nội bộ: Các hướng dẫn vận hành, xử lý sự cố thường nằm rải rác ở nhiều nơi.

Kết quả là agent thường đưa ra gợi ý sai, tốn thời gian của kỹ sư và làm giảm niềm tin vào công cụ AI.

Giải pháp: Contextual Agent Playbooks and Tools

LinkedIn đã phát triển Contextual Agent Playbooks and Tools — một lớp trung gian giữa coding agent và kho tri thức nội bộ của công ty. Lớp này được xây dựng trên Model Context Protocol (MCP), một giao thức chuẩn hóa giúp AI agent kết nối với các nguồn dữ liệu và công cụ bên ngoài.

Điểm cốt lõi của giải pháp là cung cấp cho agent ba loại ngữ cảnh quan trọng:

1. Bộ nhớ quy trình (Procedural Memory)

Thay vì chỉ đưa cho agent mã nguồn thô, LinkedIn cung cấp các playbook — những hướng dẫn từng bước về cách xử lý các tác vụ phổ biến như tạo dịch vụ mới, sửa lỗi, hay triển khai thay đổi. Đây chính là "bộ nhớ quy trình" giúp agent hành động nhất quán với cách làm của tổ chức.

2. Tìm kiếm mã nguồn có ngữ cảnh

Một công cụ tìm kiếm mã nguồn được thiết kế riêng cho agent, giúp chúng định vị đúng đoạn mã liên quan thay vì phải quét toàn bộ kho lưu trữ. Điều này đặc biệt quan trọng trong môi trường monorepo quy mô lớn.

3. Runbook và tài liệu vận hành

Các runbook nội bộ — từ quy trình xử lý sự cố đến hướng dẫn triển khai — được đưa trực tiếp đến agent thông qua giao thức MCP, giúp chúng đưa ra quyết định phù hợp với thực tế vận hành.

Kiến trúc và các rào chắn vận hành

Prakash chia sẻ chi tiết về kiến trúc của hệ thống, trong đó MCP đóng vai trò là lớp giao tiếp chuẩn hóa. Nhờ đó, các agent khác nhau có thể truy cập cùng một nguồn ngữ cảnh mà không cần tích hợp riêng lẻ cho từng công cụ.

Đáng chú ý, LinkedIn nhấn mạnh vào các rào chắn vận hành (operational guardrails) để đảm bảo an toàn:

• Kiểm soát quyền truy cập vào từng loại ngữ cảnh
• Giới hạn phạm vi hành động của agent
• Giám sát và ghi log các tương tác để có thể truy vết

"Chúng tôi đạt được mức tăng năng suất 20% mà không hề đánh đổi độ tin cậy" — Ajay Prakash chia sẻ.

Ý nghĩa với các đội ngũ phát triển tại Việt Nam

Câu chuyện của LinkedIn mang lại nhiều gợi ý cho các doanh nghiệp công nghệ Việt Nam, đặc biệt là những công ty đang xây dựng nền tảng với đội ngũ kỹ sư ngày càng lớn:

• Chuẩn hóa tri thức nội bộ: Trước khi nghĩ đến AI agent, cần số hóa playbook và runbook thành tài liệu có cấu trúc.
• Tận dụng MCP: Giao thức mở này giúp kết nối AI với hệ thống nội bộ mà không phụ thuộc vào một nhà cung cấp duy nhất.
• An toàn là ưu tiên: Xây dựng guardrails ngay từ đầu để tránh agent gây ra thay đổi ngoài ý muốn.

Với sự phát triển nhanh chóng của các coding agent như GitHub Copilot hay Cursor, việc xây dựng lớp ngữ cảnh tổ chức có thể trở thành yếu tố cạnh tranh quan trọng trong vài năm tới. Bài học từ LinkedIn cho thấy AI agent chỉ thực sự hữu ích khi chúng hiểu được ngữ cảnh riêng của doanh nghiệp — điều mà không một mô hình tổng quát nào có thể cung cấp sẵn.