Camera Flock liên tục cảnh báo sai cho cảnh sát về lệnh bắt giữ người không có vi phạm

Hệ thống camera an ninh Flock (Flock Safety), một đơn vị nổi tiếng trong lĩnh vực camera đọc biển số tự động (ALPR), đang đối mặt với những tranh cãi lớn liên quan đến độ chính xác của dữ liệu mà họ cung cấp cho các cơ quan thực thi pháp luật.

Gần đây, một trường hợp cụ thể đã gây chú ý khi hệ thống này liên tục gửi cảnh báo cho cảnh sát về một người đàn ông bị nghi ngờ có lệnh bắt giữ, mặc dù thực tế người này hoàn toàn không hề có vi phạm nào trong hồ sơ. Sự cố này không chỉ gây phiền toái cho người dân mà còn đặt ra câu hỏi lớn về độ tin cậy của các giải pháp giám sát dựa trên trí tuệ nhân tạo (AI) hiện nay.

Lỗi trong thuật toán và dữ liệu

Vấn đề cốt lõi nằm ở việc Flock Cameras dường như đã khớp dữ liệu sai lệch giữa cơ sở dữ liệu các phương tiện và danh sách các lệnh bắt giữ. Khi camera quét biển số và gửi thông tin đến trung tâm điều hành, thuật toán tự động của hệ thống đã gán nhãn sai tình trạng pháp lý của chủ sở hữu phương tiện.

Điều này dẫn đến việc cảnh sát bị đánh lừa bởi các báo cáo "dương tính giả" (false positives). Thay vì giúp cơ quan chức năng tiết kiệm thời gian và nguồn lực, công nghệ này vô tình khiến họ phải tốn thêm công sức để xác minh lại thông tin thủ công, đôi khi dẫn đến các tình huống dừng xe kiểm tra không cần thiết và gây căng thẳng cho người vô tội.

Rủi ro của việc giám sát tự động

Sự cố tại Flock làm nổi bật một mối lo ngại day dứt trong ngành công nghệ an ninh: tốc độ lan truyền của sai sót.

Không giống như lỗi của con người thường có phạm vi ảnh hưởng hạn chế, một lỗi trong cơ sở dữ liệu hoặc thuật toán nhận dạng của một hệ thống camera connected (IoT) có thể nhân rộng lỗi đó hàng nghìn lần trên nhiều khu vực jurisdictions khác nhau trong tích tắc. Khi các đơn vị cảnh sát ngày càng phụ thuộc vào các cảnh báo tự động từ máy tính để đưa ra quyết định, nguy cơ bắt giữ nhầm người hoặc xâm phạm quyền riêng tư của người dân trở nên hiện hữu hơn bao giờ hết.

Yêu cầu về trách nhiệm giải trình

Các chuyên gia về quyền kỹ thuật số và an ninh mạng đang kêu gọi cần có các quy định chặt chẽ hơn đối với các công ty cung cấp giải pháp giám sát như Flock. Cần có cơ chế để buộc các nhà cung cấp dịch vụ phải minh bạch về tỷ lệ lỗi (accuracy rates) của thuật toán nhận dạng, cũng như quy trình kiểm chứng dữ liệu trước khi thông tin được chuyển đến tay cảnh sát.

Đối với người dùng, sự việc này là lời nhắc nhở rằng trong kỷ nguyên số, dữ liệu về chúng ta được thu thập và phân tích liên tục, và một lỗi nhỏ trong hệ thống cũng có thể gây ra những hậu quả lớn ngoài đời thực.