Azure Logic Apps bổ sung trình thông dịch mã Sandbox vào quy trình tác nhân AI

Azure Logic Apps bổ sung trình thông dịch mã Sandbox vào quy trình tác nhân AI

Microsoft đã giới thiệu tính năng trình thông dịch mã (code interpreter) cho Azure Logic Apps, cho phép các tác nhân AI bên trong quy trình Logic Apps tạo và thực thi mã Python, JavaScript, C# và PowerShell trong các môi trường sandbox cách ly Hyper-V. Các trình thông dịch mã này hoạt động như công cụ trong vòng lặp tác nhân của Logic Apps, nghĩa là một Mô hình Ngôn ngữ Lớn (LLM) có thể nhận hướng dẫn bằng ngôn ngữ tự nhiên, tạo mã để thực hiện yêu cầu, chạy mã đó trong một sandbox an toàn và trả về kết quả, tất cả đều nằm trong một quy trình được quản lý duy nhất.

Tính năng này được cung cấp bởi các phiên động (dynamic sessions) của Azure Container Apps (ACA). Mỗi phiên trình thông dịch mã chạy trong ranh giới Hyper-V riêng biệt, một nguyên tắc cách ly cấp phần cứng mà Microsoft cũng sử dụng cho các khối lượng công việc không đáng tin cậy của chính mình. Khi tính năng cách ly mạng được bật trên nhóm phiên ACA, dữ liệu sẽ không bao giờ rời khỏi các ranh giới mạng đã xác định. Đội ngũ Logic Apps chia sẻ:

Điều này mang lại sức mạnh của trình thông dịch mã, tương tự như công cụ phân tích dữ liệu nâng cao của ChatGPT, ngay vào thời gian chạy của Logic Apps. Thay vì viết mã hoặc thao tác thủ công với các bảng tính, người dùng giờ đây có thể mô tả ý định của họ bằng ngôn ngữ tự nhiên và nhận được kết quả có thể thực thi trong cùng một quy trình công việc.

Ứng dụng thực tế và an ninh mạng

Trường hợp sử dụng thực tế của tính năng này rất trực quan. Một doanh nghiệp có dữ liệu bán hàng trong bảng tính. Quy trình tác nhân Logic Apps sẽ nhận tệp này, sử dụng công cụ phân tích tài liệu để trích xuất dữ liệu, tạo mã Python để tính toán xu hướng và tạo hình ảnh trực quan, thực thi mã đó trong một phiên sandbox và trả về kết quả. Người đặt câu hỏi không cần biết cách viết Python. Mã được tạo chạy trong sự cách ly, không phải trên quy trình máy chủ, nên ngay cả khi AI tạo ra một lệnh nguy hiểm như xóa hệ thống (ví dụ: os.remove('/')), nó cũng không thể gây hại cho bất kỳ thứ gì.

Vị trí trong hệ sinh thái tác nhân của Microsoft

Tính năng này định vị Logic Apps khác biệt trong bối cảnh các nền tảng tác nhân của chính Microsoft. Somnath Saha, Kiến trúc sư Giải pháp Azure tại COFCO International, đã phân tích sự lựa chọn mà các kiến trúc sư doanh nghiệp phải đối mặt:

• Logic Apps Agent Loop: Dành cho các quy trình tập trung tích hợp nặng với hơn 450 kết nối (connectors).
• Microsoft Foundry: Dành cho việc điều phối đa tác nhân chuyên sâu về mã (pro-code) với kiểm soát mô hình đầy đủ.
• Copilot Studio: Dành cho các tác nhân trò chuyện low-code được nhúng trong Microsoft 365.

Saha lập luận rằng Logic Apps chiếm một ngách riêng biệt:

Logic Apps Agent Loop phù hợp nhất khi kịch bản của bạn yêu cầu điều phối qua nhiều hệ thống doanh nghiệp, ERP, CRM, cơ sở dữ liệu, API, với các tính năng quản trị, logic thử lại (retry logic) và kiểm toán tích hợp. Đây là nền tảng tác nhân dành cho kiến trúc sư tích hợp.

Mattias Lögdberg, Nhà sáng lập DevUP Solutions và Microsoft MVP, xác nhận với InfoQ rằng các kiến trúc sư có toàn quyền kiểm soát việc lựa chọn mô hình:

Hiện tại, bên dưới là dịch vụ OpenAI. Đầu tiên, bạn có thể chọn các mô hình có sẵn để lựa chọn dựa trên các mô hình được triển khai trong dịch vụ đó. Sau đó, bạn có thể kiểm soát chính xác mô hình nào sẽ sử dụng cho từng quy trình/tác nhân, vì vậy bạn có toàn quyền kiểm soát mô hình cần dùng.

So sánh công nghệ cách ly

Việc bổ sung trình thông dịch mã củng cố vị thế này. Các quy trình tích hợp thường cần chuyển đổi, phân tích hoặc làm phong phú thêm dữ liệu ở giữa dòng chảy. Trước đây, việc này yêu cầu gọi đến Azure Function hoặc một API bên ngoài. Giờ đây, tác nhân có thể tạo và thực thi mã chuyển đổi ngay trong dòng (inline), trong cùng một quy trình và cùng ranh giới bảo mật.

Cách tiếp cận sandboxing này đáng để so sánh giữa các nhà cung cấp đám mây lớn. Cloudflare sử dụng cách ly dựa trên container trên mạng biên, với V8 isolates cho các khối lượng công việc nhẹ hơn. GKE Agent Sandbox của Google sử dụng chặn hạt nhân gVisor. Cách tiếp cận của Microsoft sử dụng Hyper-V microVMs, cung cấp ranh giới mạnh nhất trong số ba; tuy nhiên, chúng yêu cầu hạ tầng Azure Container Apps. Mỗi phương pháp đều tạo ra sự đánh đổi khác nhau giữa độ mạnh của sự cách ly, tính di chuyển và chi phí vận hành.

Trình thông dịch mã trong Logic Apps hiện đã có trong bản xem trước công khai (public preview). Điều kiện tiên quyết là một nhóm phiên trình thông dịch mã Azure Container Apps, có thể được tạo qua cổng Azure hoặc CLI.