OpenAI ra mắt biện pháp mới giúp dễ dàng nhận diện ảnh do AI tạo ra

Với sự phổ biến rộng rãi và ngày càng tinh vi của các công cụ tạo ảnh bằng AI, việc phân biệt đâu là ảnh thật và đâu là ảnh giả chưa bao giờ khó khăn như hiện nay. Tuy nhiên, OpenAI đã công bố hai biện pháp mới để giải quyết vấn đề này.

Áp dụng tiêu chuẩn C2PA và SynthID

Công ty đã cam kết tuân thủ một tiêu chuẩn mở gọi là C2PA (Liên minh về Nguồn gốc và Tính xác thực của Nội dung), bổ sung tín hiệu rõ ràng trong siêu dữ liệu (metadata) để chỉ ra rằng một bức ảnh được tạo bởi AI. Ngoài ra, OpenAI còn hợp tác với Google để tích hợp một hình mờ vô hình có tên SynthID. Công nghệ này khó phát hiện hơn nhưng cũng khó xóa bỏ hơn nếu các tác nhân xấu cố tình che giấu dấu vết.

Các cơ chế bảo vệ mới này chỉ áp dụng cho hình ảnh được tạo ra bởi các sản phẩm của OpenAI. Do đó, mặc dù chúng không ảnh hưởng đến lượng hình ảnh khổng lồ đến từ các công cụ AI kém uy tín hơn, nhưng chúng có thể giúp đảm bảo rằng OpenAI không phải là một phần của vấn nạn tin giả.

Công cụ xác minh công khai

OpenAI cũng đang giới thiệu một công cụ xác minh công khai để kiểm tra cả hai tín hiệu trên, cho phép người dùng dễ dàng kiểm tra xem một bức ảnh có được tạo bằng AI hay không. Ban đầu, công cụ này sẽ chỉ áp dụng cho hình ảnh từ sản phẩm của OpenAI, nhưng công ty hy vọng sẽ mở rộng phạm vi bao phủ sang các công cụ khác trong tương lai.

Được thành lập vào năm 2021, Liên minh về Nguồn gốc và Tính xác thực của Nội dung (C2PA) là một tổ chức phi lợi nhuận chuyên giảm thiểu tác động tiêu cực của hình ảnh AI đối với các thảo luận công cộng. Tiêu chuẩn C2PA đã được nhiều sản phẩm của Google áp dụng, nhưng việc triển khai trong ngành vẫn chưa đồng đều. Vì tín hiệu C2PA có thể truy cập rõ ràng trong siêu dữ liệu của tệp, nó có thể bị can thiệp và hữu ích nhất trong nhóm người dùng đáng tin cậy.

Trong khi đó, SynthID là một nỗ lực mới hơn, được thiết kế để trở thành biện pháp vững chắc hơn trước sự can thiệp. Được phát triển bởi Google, hình mờ SynthID được thiết kế để tồn tại ngay cả khi các tác nhân xấu cố gắng xóa bỏ nó bằng cách chụp màn hình, thay đổi kích thước hoặc thao tác kỹ thuật số.

Hai hệ thống này được thiết kế để bổ sung cho nhau, mỗi hệ thống giải quyết điểm yếu của hệ thống kia.

"Việc đánh dấu hình mờ có thể bền hơn thông qua các biến đổi như chụp màn hình, trong khi siêu dữ liệu có thể cung cấp nhiều thông tin hơn chỉ riêng hình mờ," OpenAI lưu ý trong thông báo. "Khi kết hợp lại, chúng làm cho nguồn gốc nội dung trở nên kiên cố hơn bất kỳ lớp nào hoạt động đơn lẻ."