Giao tiếp bí mật giữa các AI agent khó bị phát hiện nhờ trao đổi khóa kháng nhiễu giả ngẫu nhiên

Một nhóm nhà nghiên cứu mới đây đã công bố một nghiên cứu mang tầm ảnh hưởng trong lĩnh vực bảo mật và trí tuệ nhân tạo, xoay quanh khả năng các AI agent – những chương trình trí tuệ nhân tạo đại diện cho các tổ chức, cá nhân – có thể giao tiếp bí mật với nhau mà không thể bị phát hiện ngay cả khi bị giám sát kỹ lưỡng.

Bí mật đằng sau các cuộc hội thoại “vô hình” giữa AI

Các AI agent ngày càng được sử dụng nhiều trong nhiều mảng như trao đổi thông tin, hỗ trợ người dùng, hoặc thực hiện các nhiệm vụ tự động. Tuy nhiên, một câu hỏi đặt ra là: liệu hai AI agent thuộc hai bên độc lập có thể trò chuyện “bí mật” song song với cuộc hội thoại công khai của họ hay không, mà bản ghi lại cuộc trò chuyện công khai này vẫn không khác biệt về mặt thống kê so với một cuộc trò chuyện bình thường?

Nghiên cứu này đã đưa ra câu trả lời khẳng định, dựa trên sự kết hợp giữa các kỹ thuật watermarking (đóng dấu) và steganography (giấu thông tin) cho các mô hình ngôn ngữ lớn (LLM). Từ đó, nhóm đã xây dựng được khả năng trò chuyện ẩn danh tối ưu, tận dụng toàn bộ entropy (lượng ngẫu nhiên) có sẵn trong các thông điệp “chính thức” để ẩn chứa thông điệp bí mật.

Trao đổi khóa mới: không cần khóa chung ban đầu

Một điểm đột phá quan trọng là trong khi các nghiên cứu trước đây cần các AI agent phải có một khóa bí mật chung từ trước để thiết lập kênh bí mật, nghiên cứu này chứng minh rằng:

• Ngay cả khi các agent không có khóa chung ban đầu

• Mỗi mô hình agent vẫn có thể sở hữu một bối cảnh riêng tư không chia sẻ

• Thông điệp trao đổi có thể ngắn, linh hoạt và chưa biết trước

...thì vẫn có thể tiến hành trao đổi khóa bí mật chống nhiễu giả ngẫu nhiên (pseudorandom noise-resilient key exchange).

Giao thức này cho phép hai bên tạo ra một khóa chung trong khi bản ghi công khai của quá trình trao đổi trông như một chuỗi dữ liệu giả ngẫu nhiên bình thường, khó bị phân biệt với ngữ cảnh đối với một kẻ nghe lén mạnh có thông tin đầy đủ về mô hình và giao thức.

Ý nghĩa và thách thức mở rộng

Phát hiện này làm nổi bật hạn chế của phương pháp đánh giá, kiểm tra bản ghi trò chuyện (transcript auditing) khi mà giao tiếp bí mật giữa các AI agent không thể bị phát hiện chỉ qua phân tích tiến trình đối thoại công khai.

Ngoài ra, việc giới thiệu thủ tục trao đổi khóa mới mở ra các hướng nghiên cứu thú vị về lý thuyết mật mã, nâng cao khả năng bảo mật cho các hệ thống AI tương tác.

Bài toán này cũng đặt ra những câu hỏi về quản lý, kiểm soát và quy định công nghệ khi AI có thể “lén lút” phối hợp mà không để lộ dấu vết, đòi hỏi các tổ chức trong và ngoài nước cần cân nhắc để vừa thúc đẩy phát triển AI, vừa đảm bảo an ninh mạng và minh bạch.

Kết luận

Nghiên cứu này không chỉ là bước tiến quan trọng trong lĩnh vực bảo mật AI mà còn là lời nhắc nhở về các thách thức mới trong việc giám sát và kiểm soát các AI agent ngày càng thông minh và chủ động hơn. Ở bối cảnh Việt Nam, nơi AI đang phát triển nhanh, các cơ quan quản lý cũng nên chú trọng đến mặt kỹ thuật và chính sách để đảm bảo AI hoạt động minh bạch, an toàn.

---

Tham khảo: arXiv: Undetectable Conversations Between AI Agents via Pseudorandom Noise-Resilient Key Exchange