OpenAI sẽ tự động gắn watermark cho đầu ra ChatGPT, nhưng chỉ ở EU

OpenAI sẽ bắt đầu tự động gắn watermark (dấu thủy vân kỹ thuật số) cho văn bản được tạo ra bởi ChatGPT tại Liên minh châu Âu (EU). Công ty cũng cho biết sẽ cung cấp tính năng này ở các khu vực khác, nhưng nó sẽ tắt theo mặc định bên ngoài EU.

Vì sao chỉ có EU?

Động thái này ở châu Âu xuất phát từ yêu cầu tuân thủ Đạo luật AI của EU (EU AI Act), vốn đã có hiệu lực từ tháng 8. Đạo luật này buộc các mô hình AI phải đánh dấu nội dung do chúng tạo ra theo cách mà một công cụ khác có thể phát hiện được.

Đây là một trong những quy định pháp lý cứng rắn đầu tiên trên thế giới về việc minh bạch hóa nội dung do AI tạo ra.

Đối với người dùng Việt Nam và các khu vực khác, tính năng này sẽ không được bật sẵn — nghĩa là bạn vẫn có thể dùng ChatGPT mà không lo đầu ra bị gắn dấu, trừ khi chủ động bật lên.

Cách thức hoạt động của textGrain

OpenAI gọi phương pháp watermark của mình là textGrain và đã công bố một bài báo kỹ thuật giải thích cơ chế hoạt động. Về cơ bản, nó vận hành giống các công cụ watermark LLM khác từng xuất hiện:

• Chèn các mẫu (pattern) vào cách lựa chọn từ ngữ mà mắt người đọc không nhận ra
• Những mẫu này không làm thay đổi đáng kể chất lượng của nội dung đầu ra
• Chỉ người nắm giữ khóa (key) mới có thể dùng công cụ phát hiện chuyên biệt để tìm ra dấu vết

OpenAI cho biết sẽ cấp quyền truy cập công cụ phát hiện cho một số lượng hạn chế các nhà nghiên cứu và tổ chức, đồng thời mở quy trình yêu cầu phê duyệt để bổ sung thêm đối tượng theo thời gian.

Vấn đề cốt lõi: Không thực sự đáng tin cậy

Điểm đáng lưu ý là cho đến nay vẫn chưa có cách nào hoàn toàn hiệu quả và đáng tin cậy để đánh dấu nội dung do AI tạo ra.

Một số tiêu chuẩn đã tồn tại như SynthID và dự án C2PA, nhưng chúng tương đối dễ bị vượt qua đối với bất kỳ ai có kiến thức cơ bản. Watermark của OpenAI nhiều khả năng cũng không nằm ngoài quy luật đó.

Nói cách khác, watermark chỉ là một lớp "nhắc nhở" về nguồn gốc nội dung, chứ không phải một hàng rào bảo vệ tuyệt đối.

Đối với người dùng và doanh nghiệp tại Việt Nam đang ứng dụng AI vào sản xuất nội dung, điều này có nghĩa là:

• Không nên tin tưởng tuyệt đối vào công cụ phát hiện AI để xác minh tính xác thực của một văn bản
• Việc gắn watermark chỉ mang tính tuân thủ pháp lý ở những thị trường có quy định rõ ràng
• Các quy định tương tự EU AI Act có thể sẽ lan rộng ra nhiều quốc gia trong thời gian tới, bao gồm cả khu vực Đông Nam Á

Câu chuyện này phản ánh một nghịch lý quen thuộc trong ngành AI: các cơ quan quản lý muốn minh bạch nội dung, nhưng công nghệ hiện tại chưa đủ mạnh để thực thi điều đó một cách đáng tin cậy.