Vụ bắt giữ oan sai bộc lộ những lỗ hổng nghiêm trọng trong công nghệ nhận diện khuôn mặt của cảnh sát Mỹ

Một người đàn ông tại Florida đã bị bắt giữ sai lầm khi cảnh sát dựa vào kết quả khớp từ hệ thống nhận diện khuôn mặt không chính xác, theo một đơn kiện được đệ trình vào ngày thứ Tư. Mặc dù nạn nhân sống cách hiện trường vụ án hơn 480 km và khẳng định chưa từng đặt chân đến thành phố nơi xảy ra vụ việc, công nghệ vẫn đã chỉ định ông là nghi phạm.

Robert Dillon, một ngư dân cua 52 tuổi đến từ Fort Myers, đã bị bắt sau khi hệ thống FACES — một hệ thống nhận diện khuôn mặt vận hành bởi Văn phòng Cảnh sát trưởng Quận Pinellas của Florida — khớp khuôn mặt của ông với một bức ảnh chụp nghi phạm qua màn hình máy tính. Theo ghi chú điều tra của cảnh sát, hệ thống đã trả về mức độ "khớp 93% về đặc điểm khuôn mặt".

Tuy nhiên, các chuyên gia chỉ ra rằng điểm số này chỉ đại diện cho mức độ tương đồng về mặt hình ảnh giữa hai bức ảnh theo thuật toán, chứ không phải xác suất để khẳng định đó là cùng một người.

Hệ thống FACES và những rủi ro tiềm ẩn

FACES lưu trữ hàng chục triệu ảnh thẻ định danh tội phạm (mugshot) và ảnh bằng lái xe của người dân Florida, là một trong những cơ sở dữ liệu nhận diện khuôn mặt của cảnh sát hoạt động lâu đời nhất tại Hoa Kỳ.

Liên minh Tự do Dân sự Mỹ (ACLU), đơn vị đệ trình đơn kiện, cho biết Dillon đã bị bắt tại nhà mình trước mặt vợ, bị giam giữ qua đêm trong một phòng giam lạnh lẽo và được vận chuyển bằng chiếc xe tải không đèn và có lồng sắt. Ông phải thế chấp chiếc xe tải của mình để được tại ngoại. Vụ bắt giữ diễn ra vào mùa cao điểm khai thác cua đá, khiến ông chậm trả tiền thuê nhà và gần như mất đi ngôi nhà của mình. Ảnh thẻ định danh của ông đã bị lưu trực tuyến gần một năm và chỉ được gỡ xuống khỏi trang web của quận sau khi một phóng viên truyền hình can thiệp.

Những sai lầm trong quá trình điều tra

Vụ việc xảy ra vào lúc nửa đêm ngày 2 tháng 11 năm 2023 tại một cửa hàng McDonald's ở Jacksonville Beach, khi một người đàn ông bị cáo buộc tiếp cận một cô bé dưới 12 tuổi và nhiều lần yêu cầu cô đi cùng. Sau khi người đàn ông rời đi trước khi cảnh sát đến, một cảnh sát Jacksonville Beach đã gửi thông tin yêu cầu xác định danh tính đến các cơ quan xung quanh bằng ảnh chụp từ camera an ninh.

Một trung sĩ từ Văn phòng Cảnh sát trưởng Jacksonville (JSO) đã chạy các hình ảnh này qua hệ thống FACES và gửi lại kết quả "khớp 93%" với tên của Dillon. Sau đó, cảnh sát điều tra đã yêu cầu tìm kiếm dữ liệu từ máy đọc biển số xe cho hai chiếc xe đăng ký dưới tên Dillon, nhưng kết quả cho thấy không có chiếc nào xuất hiện trong quận vào thời điểm vụ việc. Theo đơn kiện, kết quả quan trọng này đã bị bỏ sót trong đơn xin lệnh bắt giữ.

Đơn kiện cũng nêu rõ nhiều sự thật chỉ ra rằng Dillon không phải là nghi phạm nhưng chưa bao giờ được đưa đến thẩm phán ký lệnh bắt giữ. Một quản lý tại McDonald's đã告诉 điều tra viên rằng nghi phạm là "khách quen" mà bà đã thấy nhiều lần tại đó, trong khi Dillon chưa từng đến Jacksonville Beach.

Kêu gọi cải tổ và trách nhiệm giải trình

Sau sáu tháng không có thêm điều tra, lệnh bắt giữ đã được ký vào tháng 7 năm 2024 và Dillon bị bắt vào tháng sau đó. Vụ án sau đó đã được hủy bỏ, nhưng sĩ quan điều tra vẫn được thăng chức vào cuối năm.

"Tôi sẽ không bao giờ vượt qua nỗi sợ hãi và lo lắng đó, tự hỏi liệu mình có bao giờ được trở về nhà với vợ và con gái nữa không," Dillon chia sẻ trong một tuyên bố. "Hơn một năm sau, tôi vẫn đang dọn dẹp mảnh đời của mình, tất cả chỉ vì cảnh sát đã tin vào công nghệ nguy hiểm này thay vì làm việc của họ và thực sự điều tra."

ACLU cho biết vụ việc của Dillon là một trong số ít nhất 15 vụ bắt giữ oan sai được biết đến tại Hoa Kỳ do công nghệ nhận diện khuôn mặt gây ra. Hệ thống FACES đã hoạt động từ năm 2001 với sự giám sát rất ít. Một nghiên cứu năm 2016 của Trung tâm Quyền riêng tư và Công nghệ thuộc Đạo luật Georgetown đã phát hiện rằng Văn phòng Cảnh sát trưởng Quận Pinellas không thực hiện các cuộc kiểm toán việc sử dụng cơ sở dữ liệu và không yêu cầu lý do hợp lý để chạy một truy vấn.

Nate Wessler, phó giám đốc dự án Ngôn ngữ, Quyền riêng tư và Công nghệ của ACLU, kêu gọi các sở cảnh sát Florida phải sửa sai và áp dụng các biện pháp bảo vệ để ngăn chặn các vụ bắt giữ oan sai trong tương lai. Ông nhấn mạnh rằng không ai nên mất tự do hay sợ hãi ra khỏi nhà chỉ vì một thuật toán mắc sai lầm.