PhotoDNA của Microsoft: Khi thuật toán nhận diện khuôn mặt gây ra "ác mộng" cho người dùng

Một người dùng trên diễn đàn công nghệ ElevenForum vừa chia sẻ trải nghiệm "điên rồ" của mình khi trở thành nạn nhân của công nghệ nhận diện hình ảnh PhotoDNA do Microsoft phát triển. Theo đó, thuật toán này liên tục gắn cờ (flag) ảnh chân dung thật của người dùng này là nội dung không phù hợp, dẫn đến việc hàng loạt tài khoản Microsoft bị khóa vĩnh viễn mà không có cách kháng cáo.

Vòng lặp khóa tài khoản không hồi kết

Người dùng có tên Mark K. cho biết ông đã gặp phải vấn đề này trong một thời gian dài. Mỗi khi ông tạo tài khoản Microsoft mới và sử dụng ảnh chân dung thật của mình làm ảnh đại diện, hệ thống sẽ ngay lập tức phát cảnh báo về việc phát hiện "nội dung không phù hợp và/hoặc lạm dụng". Chỉ trong vài giây sau khi tải ảnh lên, tài khoản sẽ bị đóng cửa.

Ông tiết lộ đã mất ít nhất 12 tài khoản Microsoft theo cách này. Đáng chú ý, 3 trong số các tài khoản này được tạo ra ngay dưới sự chứng kiến và hỗ trợ trực tiếp từ bộ phận Hỗ trợ Microsoft. Dù nhân viên hỗ trợ xác nhận quy trình cài đặt hoàn toàn đúng, nhưng ngay khi ảnh chân dung được thêm vào, tài khoản vẫn bị khóa tức thì trước mắt họ.

Sự can thiệp của cơ quan chức năng

Vấn đề không chỉ dừng lại ở những rắc rối kỹ thuật số. Microsoft đã yêu cầu ông xác minh tuổi và danh tính là một "người thật". Theo chia sẻ của người dùng này, Microsoft thậm chí đã liên hệ với sở cảnh sát địa phương dựa trên thông tin địa chỉ trong tài khoản của ông để yêu cầu kiểm tra.

Ông đã phải đến đồn cảnh sát để xác minh danh tính và tuổi tác. Cảnh sát địa phương nhận định yêu cầu này khá kỳ lạ nhưng họ vẫn phải thực hiện theo quy trình từ phía Microsoft. Sự việc này xảy ra vài năm trước và dù danh tính đã được xác nhận, lỗi nhận diện sai ảnh chân dung vẫn tiếp diễn cho đến ngày nay.

PhotoDNA và quyền riêng tư trên Windows 11

Điều đáng lo ngại hơn là thông tin người dùng này nhận được từ bộ phận hỗ trợ Microsoft. Theo đó, công nghệ PhotoDNA không chỉ hoạt động trên dịch vụ lưu trữ đám mây OneDrive mà còn hoạt động trên toàn bộ hệ sinh thái của Microsoft.

Về cơ bản, nếu người dùng đăng nhập vào Windows 11 bằng tài khoản Microsoft, PhotoDNA có khả năng quét toàn bộ máy tính. Điều này đặt ra nhiều câu hỏi lớn về quyền riêng tư và mức độ xâm nhập của các thuật toán kiểm duyệt nội dung vào hệ điều hành người dùng.

Hiện tại, người dùng này cảm thấy hoàn toàn bất lực. Mỗi khi cố gắng tạo tài khoản mới và sử dụng ảnh thật là bị khóa ngay lập tức. Phản hồi duy nhất mà ông nhận được từ hỗ trợ kỹ thuật chỉ là "điều đó không nên xảy ra" và "thật ngạc nhiên là tài khoản bị khóa nhanh đến vậy". Không có lộ trình nào được đưa ra để giải quyết triệt để lỗi nhận diện sai của thuật toán này.