Anh sẽ sử dụng AI quét khuôn mặt để xác định tuổi người xin tị nạn bất chấp biết công nghệ này có lỗi

Xác minh độ tuổi đang trở thành một yêu cầu phổ biến trên internet, từ việc cấm mạng xã hội ở Úc đến các hạn chế truy cập nội dung người lớn tại Mỹ. Tuy nhiên, một trong những công nghệ cốt lõi của các quy trình này đang chuẩn bị bước ra thế giới thực với những hậu quả có thể thay đổi cuộc đời của những người xin tị nạn.

Bắt đầu từ năm tới, chính phủ Anh dự định đưa vào sử dụng công nghệ ước tính tuổi khuôn mặt (facial age estimation - FAE) sử dụng AI để hỗ trợ xác định độ tuổi của người xin tị nạn khi đến biên giới. Đây được coi là lần đầu tiên hệ thống FAE được sử dụng cho mục đích này. Nhiều người xin tị nạn không có giấy tờ chứng minh độ tuổi, và nếu trẻ em bị phân loại sai là người lớn, họ sẽ mất đi sự bảo vệ pháp lý và có thể bị đưa vào các trung tâm giam giữ dành cho người lớn.

Một cuộc điều tra chung của WIRED, Lighthouse Reports và The Independent đã thu được một báo cáo nội bộ của chính phủ Anh chi tiết về các bài kiểm tra công nghệ FAE. Báo cáo cho thấy các hệ thống này thường xuyên nhầm trẻ em thành người lớn và dường như chứa các vấn đề thiên kiến nghiêm trọng, ảnh hưởng trực tiếp đến nhóm người di cư lớn nhất phải trải qua đánh giá độ tuổi vào năm 2025.

Thiên kiến trong thuật toán

Tài liệu bị rò rỉ chủ yếu chi tiết thuật toán hoạt động tốt nhất trong số bảy thuật toán FAE mà Bộ Nội vụ đã thử nghiệm vào năm ngoái. Kết quả cho thấy hệ thống hoạt động kém hơn đáng kể khi ước tính tuổi của người gốc Phi vùng Sahara so với các nhóm khác. Đây là nhóm người di cư lớn nhất nhập cảnh vào Anh trong những năm gần đây.

Đối với phụ nữ gốc Phi vùng Sahara, độ tuổi mà hệ thống đoán sai trung bình là 4,6 năm. Điều này có nghĩa là một cô gái 13,5 tuổi có thể bị đánh giá là một người trưởng thành 18 tuổi.

Cuộc điều tra cũng phát hiện rằng Bộ Nội vụ đã giải tán một ủy ban khoa học được thiết lập để tư vấn về các phương pháp ước tính độ tuổi trong khi họ đang khám phá việc đưa AI vào sử dụng. Tim Cole, giáo sư danh dự về thống kê y khoa tại Đại học College London và cựu thành viên của ủy ban, mô tả việc quét khuôn mặt là "vô cùng thiếu chính xác".

Thách thức từ thực tế

Mặc dù trong các bài kiểm tra phòng thí nghiệm được kiểm soát, các thuật toán tốt nhất có thể dự đoán độ tuổi trong khoảng 2,5 năm, nhưng kết quả có thể thay đổi rất nhiều tùy thuộc vào thuật toán, giới tính, chi tiết nhân khẩu học và các yếu tố khác. Chất lượng hình ảnh kém, chẳng hạn như ánh sáng yếu, có thể làm giảm đáng kể hiệu suất của hệ thống.

Báo cáo nội bộ cho thấy các bức ảnh được chụp tại cuộc gặp đầu tiên thường có chất lượng "tệ hơn thường xuyên" so với các bức ảnh sau đó. Chất lượng ảnh kém đến mức báo cáo không thể xác định xem đó là do ảnh hay do thể chất của người xin tị nạn khi đến nơi ảnh hưởng nhiều hơn đến kết quả. Báo cáo kết luận rằng cần nghiên cứu thêm về tác động của sự căng thẳng mà người xin tị nạn phải chịu đựng trước khi đến nơi.

Phản ứng từ các công ty và chuyên gia

Vào tháng 5 năm nay, chính phủ Anh đã chi hơn 400.000 USD để mua công nghệ quét khuôn mặt từ công ty Cognitec của Đức. Phân tích dữ liệu công khai về hệ thống của Cognitec cho thấy hệ thống này phân loại sai số lượng thanh thiếu niên 16 tuổi thành 18 tuổi hoặc lớn hơn gấp đôi khi thử nghiệm trên tập dữ liệu ảnh chất lượng thấp tại biên giới so với ảnh thị thực chất lượng cao.

Một phát ngôn viên của Cognitec cho biết họ không thể bình luận về công việc với Bộ Nội vụ, nhưng chỉ ra rằng "sự khác biệt về nhân khẩu học" trong hiệu suất áp dụng cho tất cả các thuật toán quét khuôn mặt.

"Trẻ em xin tị nạn thường phải chịu những chấn thương tâm lý không thể tưởng tượng nổi. Chúng không nên là đối tượng thử nghiệm cho công nghệ thử nghiệm có sự thiếu chính xác và thiên kiến chủng tộc vốn có," Martha Dark, đồng giám đốc điều hành của nhóm quyền Foxglove, nhận định.

Anna Bacciarelli, nhà nghiên cứu cấp cao tại Human Rights Watch, cảnh báo rằng việc sử dụng công nghệ này tại biên giới sẽ "phi nhân tính hóa" con người và có nguy cơ trở thành bình thường đối với nhân viên.

Bộ Nội vụ Anh khẳng định công nghệ quét khuôn mặt chỉ là công cụ bổ sung cho nhân viên biên giới và sẽ không thay thế phán xét của con người. Tuy nhiên, họ không trả lời các câu hỏi về cách sử dụng công nghệ trong môi trường thực tế hay các biện pháp cụ thể để giảm thiểu sự chênh lệch về khuôn mặt và giới tính đã được xác định.

Việc triển khai hệ thống này hiện đã bị hoãn đến năm 2027, nhưng các chuyên gia vẫn lo ngại về những rủi ro tiềm ẩn đối với những người dễ bị tổn thương nhất.