Canva xin lỗi vì công cụ AI tự động thay đổi từ "Palestine" trong thiết kế

Canva, nền tảng thiết kế đồ họa phổ biến, vừa phải đưa ra lời xin lỗi chính thức sau khi một trong những công cụ trí tuệ nhân tạo (AI) mới của họ bị phát hiện đã tự động thay đổi nội dung văn bản nhạy cảm trong thiết kế của người dùng.

Vấn đề xuất phát từ tính năng Magic Layers, một công cụ được thiết kế để tách các hình ảnh phẳng thành các lớp riêng biệt có thể chỉnh sửa được. Thay vì chỉ thực hiện nhiệm vụ tách lớp như thiết kế ban đầu, tính năng này đã bị phát hiện là can thiệp vào nội dung văn bản.

Canva Magic Layers AI

Cụ thể, người dùng @ros_ie9 trên mạng xã hội X (trước đây là Twitter) đã phát hiện ra rằng cụm từ "cats for Palestine" (mèo cho Palestine) trong bản thiết kế đã tự động chuyển thành "cats for Ukraine" (mèo cho Ukraine) sau khi sử dụng tính năng này. Điều đáng chú ý là lỗi dường như chỉ nhắm vào từ "Palestine", vì các từ khóa liên quan khác như "Gaza" không bị ảnh hưởng.

Trước phản ứng gay gắt từ cộng đồng mạng, đại diện của Canva, bà Louisa Green, đã xác nhận sự cố và cho biết công ty đã hành động ngay lập tức.

"Chúng tôi đã nhận biết được vấn đề với tính năng Magic Layers và đã nhanh chóng điều tra cũng như khắc phục nó," bà Green chia sẻ với The Verge. "Chúng tôi coi trọng các báo cáo như thế này rất nghiêm túc và đang đặt thêm các bước kiểm tra để giúp ngăn chặn điều này trong tương lai. Chúng tôi xin lỗi vì sự phiền toái này có thể đã gây ra."

Mặc dù nhiều người dùng khác xác nhận họ đã tái hiện được lỗi này trước khi Canva khắc phục, nhưng các thử nghiệm gần đây cho thấy tính năng hiện đã hoạt động bình thường và không còn thay đổi từ khóa.

Sự cố này được coi là một sai lầm nghiêm trọng đối với Canva, đặc biệt trong bối cảnh nền tảng này đang nỗ lực cạnh tranh gay gắt với bộ công cụ thiết kế hỗ trợ AI của Adobe. Magic Layers là một thành phần then chốt trong đợt nâng cấp AI gần đây mà Canva tuyên bố là "đánh dấu sự khởi đầu của kỷ nguyên sáng tạo tiếp theo". Việc thuật toán can thiệp vào nội dung chính trị - xã hội một cách thiếu kiểm soát có thể làm ảnh hưởng đến niềm tin của người dùng vào các công cụ tự động hóa.