Nghiên cứu cảnh báo: Đánh dấu bản quyền AI có thể khiến mô hình ngôn ngữ dễ bị lợi dụng hơn

Các nền tảng trí tuệ nhân tạo đang gấp rút triển khai các phương án đánh dấu bản quyền cho nội dung do chúng tạo ra, nhằm đáp ứng luật mới của Liên minh châu Âu. Anthropic gần đây công bố rằng các mô hình Claude trong tương lai sẽ sử dụng SynthID-Text, một phương pháp do Google phát triển và phát hành dưới dạng mã nguồn mở.

Cơ chế hoạt động khá tinh vi: hệ thống dùng một khóa bí mật để thay đổi nhẹ quá trình mô hình lựa chọn từ tiếp theo trong câu. Chẳng hạn, thay vì chọn từ "nhiều mây", khóa bí mật có thể khiến mô hình chọn từ "âm u". Bất kỳ ai nắm được khóa đều có thể xác định liệu nội dung đó có phải do nền tảng tương ứng tạo ra hay không.

Khi đánh dấu bản quyền vô tình thay đổi hành vi an toàn

Nghiên cứu mới đây chỉ ra rằng SynthID-Text không chỉ tác động đến việc chọn từ ngữ, mà còn ảnh hưởng đến các công cụ mà mô hình gọi đến và khả năng tuân thủ hoặc phớt lờ các rào cản an toàn mà nó đã được huấn luyện để tuân theo.

Nguy cơ này càng nghiêm trọng hơn khi đối mặt với các lệnh tấn công có chủ đích — tình huống kẻ xấu cố tình khiến mô hình thực hiện hành vi gây hại, như tiết lộ mật khẩu hoặc thông tin nhạy cảm khác. Theo phát hiện này, những hướng dẫn mà bình thường mô hình sẽ từ chối lại có thể được thực thi sau khi đánh dấu bản quyền được kích hoạt.

"So với chính các mô hình đó khi không có đánh dấu bản quyền, hành vi của chúng chắc chắn sẽ thay đổi, đặc biệt khi chúng ta đặt chúng vào điều kiện bị tấn công, hoặc khiến các mô hình này gọi công cụ trong vai trò tác nhân (agent)", Andrea Siposova, nhà nghiên cứu an ninh AI tại Lasso Security, chia sẻ với Ars. "Đánh dấu bản quyền được thiết kế để người đọc không thể nhận ra, nhưng chúng ta biết rằng khi thay đổi bất cứ điều gì trong những gì mô hình tạo ra, đều sẽ dẫn đến những đánh đổi, và chúng sẽ bộc lộ ở đâu đó."

Vì sao phát hiện này quan trọng

Phát hiện này nhấn mạnh sự cần thiết của việc kiểm thử kỹ lưỡng cách các mô hình ngôn ngữ lớn (LLM) và tác nhân AI hành xử khi đánh dấu bản quyền được bật. Đây là vấn đề đáng lưu tâm không chỉ với các nhà phát triển mà còn với các doanh nghiệp đang tích hợp AI vào quy trình vận hành.

• Rủi ro bảo mật gia tăng: kẻ tấn công có thể lợi dụng sự thay đổi hành vi này để khai thác mô hình trong các cuộc tấn công có chủ đích.
• Đánh đổi khó tránh: bất kỳ thay đổi nào trong quá trình sinh nội dung đều có thể dẫn đến hệ quả ngoài mong muốn, kể cả khi mục tiêu chỉ là minh bạch nguồn gốc.
• Yêu cầu kiểm thử mới: các nhà phát triển cần bổ sung các bài kiểm tra an toàn dành riêng cho điều kiện có đánh dấu bản quyền.

Góc nhìn cho thị trường Việt Nam

Với các doanh nghiệp và nhà phát triển Việt Nam đang ngày càng tích hợp các mô hình AI vào sản phẩm — từ chatbot chăm sóc khách hàng đến tác nhân tự động xử lý quy trình nội bộ — bài học này rất đáng lưu tâm. Việc tuân thủ các quy định minh bạch nội dung AI là xu hướng tất yếu, song song đó, đội ngũ kỹ thuật cần đánh giá lại mức độ an toàn của mô hình trong điều kiện đánh dấu bản quyền trước khi triển khai thực tế.

Nói cách khác, minh bạch và an toàn không nên đối lập nhau — mà cần được thiết kế và kiểm chứng song song ngay từ đầu.