CoChat ra mắt nền tảng hợp tác AI nhằm kiểm soát rủi ro Shadow AI trong doanh nghiệp

Shadow AI, về mặt định nghĩa, là những hoạt động AI vô hình và không chịu sự kiểm soát của cả bộ phận CNTT lẫn an ninh mạng.

Shadow IT (sử dụng công nghệ không được cấp phép) đã là một mối lo ngại an ninh lâu đời. Nguyên nhân chính xuất phát từ mong muốn của nhân viên muốn cải thiện hiệu suất làm việc. Tuy nhiên, hệ quả là sự ra đời của những rủi ro chưa được biết đến và không được quản lý.

Ngày nay, Shadow IT đang chuyển biến thành Shadow AI – những công cụ mà nhân viên âm thầm sử dụng để cải thiện năng suất cá nhân ngày càng là các công cụ AI. Hệ quả vẫn giống nhau, nhưng rủi ro lại được phóng đại bởi sức mạnh tiềm tàng của các AI tác nhân (agentic AI) không được quản lý.

CoChat Platform

CoChat, được ra mắt vào tuần đầu tiên của tháng 4 năm 2026, là một nền tảng được thiết kế để mang lại khả năng hiển thị và quản trị cho Shadow AI trong doanh nghiệp. Nó thực hiện điều này bằng cách cung cấp cho nhân viên quyền truy cập vào các mô hình ngôn ngữ lớn (LLM) nền tảng chính và loại bỏ nhu cầu người dùng phải thiết lập nhiều silo gen-AI và agentic AI không liên kết.

Mối nguy hiểm khi dựa vào kiến thức cá nhân trên các LLM là phản hồi của chúng vẫn chưa được đảm bảo độ chính xác tuyệt đối. Người dùng khác nhau có thể sử dụng các LLM khác nhau, và các LLM này có thể đưa ra câu trả lời khác nhau cho cùng một câu hỏi.

Mối nguy hiểm của Shadow AI là không chỉ bộ phận CNTT hay an ninh mạng, mà cả tổ chức đều không biết rằng những người dùng này không đang sử dụng phán đoán cá nhân mà đang dựa vào kiến thức từ một LLM bên ngoài không rõ nguồn gốc.

Nhân viên cũng đang cài đặt các hệ thống tác nhân với tiềm năng hành động tự chủ chưa được biết đến. Tại đây, CoChat cung cấp một lớp kiểm soát giữa LLM và tác nhân, kiểm tra lý luận của LLM mà "hướng dẫn" hành động của tác nhân. Nếu "hướng dẫn" được coi là nguy hiểm (ví dụ: khả năng lộ dữ liệu nhạy cảm cho bên thứ ba, hoặc xóa dữ liệu cá nhân hoặc doanh nghiệp), CoChat sẽ tạm dừng tính tự chủ và yêu cầu người dùng phê duyệt hoặc từ chối rõ ràng quy trình.

CoChat thực thi việc có con người trong vòng lặp (human in the loop) ngay cả khi các hệ thống tác nhân được thiết kế để hoạt động mà không cần con người. Hãy xem xét OpenClaw – một trợ lý cá nhân tự động phục vụ trực tiếp cho nguyên nhân của Shadow AI: cải thiện hiệu suất cá nhân. Các ước tính cho thấy OpenClaw có khoảng 3 triệu người dùng tích cực. Lịch sử gợi ý, ít nhất là theo nghĩa ẩn dụ, nó có một tâm trí phi đạo đức đòi hỏi sự thỏa mãn ngay lập tức không bị cản trở – và điều này có thể gây ra vấn đề.

"Mọi người cảm thấy đau khổ vì cần tận dụng tối đa AI, muốn tăng năng suất và hiệu suất làm việc," Marcel Folaron, CEO tại CoChat, nhận xét. "Vì vậy, họ chuyển sang các công cụ AI tự động hóa, chẳng hạn như OpenClaw và các công cụ cục bộ khác, nhưng không nhất thiết là với sự biết trước của CNTT. Điều này có thể rất nguy hiểm. Những công cụ này có quyền truy cập vào mọi thứ trên hệ thống của bạn, và nếu không có cơ chế kiểm soát thích hợp, chúng có thể hoạt động hỗn loạn."

Trong một hệ thống tác nhân, LLM sử dụng sức mạnh lý luận của chính nó, vốn không được đảm bảo là hoàn hảo, để hướng dẫn tác nhân xem việc cần làm tiếp theo là gì, có thể không cần tham khảo thêm với người dùng. LLM thực hiện lý luận dẫn dắt hành động của các tác nhân. Các tác nhân, vốn động thái, thích ứng và có trạng thái, phản hồi và thực hiện hành động dựa trên lý luận của LLM. Nếu không có sự giám sát của con người, điều này có thể đi sai hướng rất nhanh.

"Nếu chúng tôi xác định một hành động mà chúng tôi cho là nguy hiểm, chúng tôi sẽ trì hoãn hành động đó. Chúng tôi yêu cầu người dùng phê duyệt hoặc từ chối hành động đó, và hành động tiếp theo sẽ được chỉ đạo bởi người dùng thay vì được thực hiện tự động bởi hệ thống tác nhân," ông nói tiếp.

Mục đích của CoChat là cung cấp khả năng hiển thị vào Shadow AI trong doanh nghiệp, áp đặt sự quản trị lên nó, và khuyến khích làm việc nhóm AI thay vì các silo hoạt động vô hình, biệt lập. "CoChat mang các giải pháp AI hàng đầu vào một không gian làm việc an toàn liền mạch để các nhóm có thể cộng tác hiệu quả hơn và sử dụng các công cụ này với tính minh bạch và tự tin cao hơn," Folaron nói.

Theo một cách nào đó, có thể hiểu nó thông qua cách chúng ta sử dụng Slack. Slack cung cấp các kênh kết nối các cá nhân thành một nhóm làm việc. Nếu các thành viên nghĩ rằng người khác đang đi sai hướng, họ có thể nêu ra mối quan tâm và vấn đề có thể được thảo luận. Trong CoChat, hiệu suất của các LLM và hệ thống tác nhân khác nhau có thể được nhìn thấy và so sánh.

Một người dùng cá nhân có thể bị lừa dối bởi mong muốn bẩm sinh của LLM là làm hài lòng người dùng; để cung cấp câu trả lời mà nó giả định người dùng muốn. Nhưng các thành viên khác trên nền tảng có thể đặt câu hỏi về điều này và nêu lên mối quan tâm của họ.

CoChat cho phép mỗi người dùng chạy LLM và hệ thống tác nhân theo lựa chọn của riêng họ và khuyến khích sử dụng nhiều LLM để xác định bất kỳ ảo giác (hallucinations) và sự dẫn dắt sai lệch tiềm ẩn đối với các hệ thống tác nhân. Nhưng vì đây là một nền tảng, nó không chỉ đảm bảo có con người trong vòng lặp, mà nó cho phép nhiều con người trong mỗi vòng lặp. AI được sử dụng thông qua nền tảng về mặt kỹ thuật vẫn có thể là Shadow AI, nhưng một lớp khả năng hiển thị, minh bạch và quản trị được áp dụng lên nó.

Về bản chất, CoChat là một nền tảng hợp tác AI được thiết kế cho làm việc nhóm. Nó cho phép người dùng làm việc cùng nhau trong các cuộc trò chuyện được chia sẻ với các mô hình AI hàng đầu, trợ lý tùy chỉnh và tác nhân tự động, đồng thời kết nối quy trình làm việc AI với các công cụ họ đã sử dụng – nhưng ngắt các hành động tự chủ nguy hiểm tiềm ẩn.