Cảnh sát Mỹ dùng AI của Flock để theo dõi người dân: Lằn ranh mong manh giữa an ninh và quyền riêng tư

Công ty khởi nghiệp Flock Safety đã trang bị cho lực lượng cảnh sát Mỹ một bộ công cụ tìm kiếm AI cho phép họ mô tả nghi phạm bằng văn bản tự nhiên và quét hàng nghìn camera trên toàn thành phố để tìm người phù hợp. Một cuộc điều tra sâu của WIRED đã phân tích mã nguồn phần mềm này và chỉ ra rằng, mặc dù có các biện pháp bảo vệ mới, hệ thống vẫn có thể bị lạm dụng để xâm phạm nghiêm trọng quyền riêng tư và các quyền tự do dân sự.

Công cụ "FreeForm": Mô tả bằng chữ, AI sẽ tìm người trên camera

Gã khổng lồ công nghệ giám sát này hiện cung cấp một tính năng có tên FreeForm, hoạt động như một công cụ tìm kiếm ngược bằng văn bản. Thay vì chỉ dựa vào biển số xe, một sĩ quan cảnh sát có thể gõ một mô tả như "người mặc áo phẫu thuật" hoặc "người mặc áo khoác biker có logo" và hệ thống AI sẽ quét qua toàn bộ video từ các camera trong một khu vực đã chọn trên bản đồ.

Hệ thống này chuyển đổi mô tả văn bản thành một tập hợp các con số và so sánh với dữ liệu hình ảnh được mã hóa từ mọi khung hình camera. Kết quả là một danh sách xếp hạng các đoạn phim được cho là phù hợp nhất. Một tính năng khác có tên Smart Sort cho phép sĩ quan tương tác bằng cách duyệt hoặc từ chối kết quả, từ đó giúp AI "học" và tinh chỉnh kết quả tìm kiếm tốt hơn.

Lời hứa "bảo vệ Tu chính án thứ nhất" và những lỗ hổng chết người

Sau làn sóng chỉ trích mạnh mẽ từ công chúng và các nhà lập pháp về việc cảnh sát lạm dụng dữ liệu để theo dõi phụ nữ, bạn tình cũ, và thậm chí là theo dõi người phá thai, Flock đã tuyên bố thêm các lớp bảo vệ mới. Hệ thống AI trên máy chủ của Flock sẽ phân tích mô tả của sĩ quan dựa trên nhiều hạng mục nhạy cảm như chủng tộc, tôn giáo, quốc tịch và đưa ra ba phán quyết: cho phép, chặn, hoặc cảnh báo.

Tuy nhiên, phân tích của WIRED cho thấy cách triển khai còn nhiều nghịch lý. Trong khi chủng tộc và tôn giáo có thể bị chặn hoàn toàn, thì hạng mục "biểu đạt chính trị, xã hội và văn hóa" — vốn được Tu chính án thứ nhất của Hiến pháp Mỹ bảo vệ chặt chẽ nhất — chỉ dừng lại ở mức cảnh báo. Một sĩ quan vẫn có thể nhấp vào "Tiếp tục tìm kiếm với rủi ro của tôi" sau khi đánh dấu vào ô xác nhận. Các chuyên gia pháp lý như Tom Bowman từ Trung tâm Dân chủ và Công nghệ (CDT) chỉ trích điều này là thiếu nhất quán, bởi các biện pháp bảo vệ quyền tự do ngôn luận lại bị coi nhẹ nhất.

Hệ thống chỉ là "một chấm nhỏ trên lưng con quái vật giám sát"

Những lời cảnh báo này có thực sự hiệu quả? Các chuyên gia nghiên cứu về hệ thống sàng lọc tự động tại các trường đại học lớn cho rằng, việc cảnh báo chỉ có tác dụng ngăn cản những sĩ quan "chưa quyết tâm" thực hiện hành vi sai trái. Đối với những người đã có ý đồ xấu, việc nhấp qua cảnh báo chỉ mất vài giây và thao tác đó sẽ được ghi vào nhật ký để phục vụ cho việc kiểm toán sau này.

Jay Stanley, chuyên gia phân tích cấp cao tại ACLU, nhận định gay gắt rằng toàn bộ hệ thống kiểm duyệt này chỉ là "một chấm nhỏ trên lưng con quái vật giám sát khổng lồ". Ông chỉ ra rằng cơ sở dữ liệu khổng lồ mà AI có thể dò tìm vẫn là mối đe dọa tiềm ẩn, bởi không ai ngoài công ty biết các mô hình thống kê này đưa ra quyết định sai lệch theo hướng nào và mức độ thường xuyên ra sao.

Phản ứng dữ dội và trách nhiệm thuộc về ai?

Cuộc điều tra của WIRED cho thấy đã có thêm nhiều vụ việc cảnh sát bị buộc tội hoặc bị điều tra vì lạm dụng hệ thống camera để theo dõi người quen, bạn tình cũ. Chỉ riêng các vụ liên quan đến Flock, đã có 50 sĩ quan bị buộc tội, trong đó nhiều người đã lọc ra thông tin hàng trăm lần và khai báo chúng là "điều tra".

Một sĩ quan chỉ huy tại một sở cảnh sát ở Nam California, giấu tên, cho rằng vấn đề không nằm ở công nghệ của riêng Flock, mà nằm ở văn hóa và quy trình giám sát nội bộ. Ông nói: "Câu hỏi thực sự là liệu công nghệ có được triển khai với các rào chắn mạnh mẽ, sự giám sát tích cực, khả năng kiểm toán và hậu quả cho mọi hành vi lạm dụng hay không."

Flock khẳng định trách nhiệm lớn thuộc về các cơ quan địa phương khi họ tự đặt ra các quy tắc truy cập. Tuy nhiên, để giải quyết tận gốc vấn đề lạm dụng công nghệ giám sát, các chuyên gia cho rằng cần phải có một cuộc tranh luận rộng rãi về đạo đức và giới hạn của trí tuệ nhân tạo trong việc thực thi pháp luật, trước khi xã hội đánh đổi quá nhiều quyền riêng tư căn bản của mình.