Flock Safety: Công cụ AI mới cho cảnh sát có thể theo dõi danh tính tài xế

Gã khổng lồ giám sát phương tiện Flock Safety đã nhiều năm khẳng định với công chúng rằng công nghệ của họ "không thể nhận dạng, xác định hoặc theo dõi cá nhân". Tuy nhiên, WIRED đã phát hiện công ty này vừa xây dựng một hệ thống AI hoàn toàn trái ngược, cho phép cảnh sát xác định danh tính tài xế và theo dõi phương tiện dựa trên mô hình di chuyển.

Hệ thống mới, ban đầu có tên Nightshift và sau đó đổi thành OS Investigate, khai thác mạng lưới camera ghi nhận chuyển động của tài xế tại hơn 6.000 cộng đồng. Công cụ này có thể chọn ra nhân chứng tiềm năng dựa trên tần suất xe đi qua một khu phố, hoặc phát hiện "cộng sự" của tài xế thông qua các camera mà họ cùng đi qua. Với khả năng truy cập hồ sơ vụ án, nhật ký điều phối 911 và dữ liệu nhận dạng thương mại, hệ thống có thể chuyển đổi biển số xe thành tên tuổi, địa chỉ nhà và thông tin người thân. Nó thậm chí có thể tìm kiếm người dựa trên mô tả ngoại hình trong một khu vực được vẽ trên bản đồ.

69 lời nhắc được cài sẵn

Phần mềm OS Investigate đi kèm 69 lời nhắc (prompts) được viết sẵn mà cảnh sát có thể chọn, xem xét, chỉnh sửa và gửi cho AI. Các lời nhắc này nằm trong bộ nhớ đệm hơn 450 tệp mà WIRED tìm thấy trên chính website của Flock, được phục vụ qua trang đăng nhập đến bất kỳ ai tải chúng. Mã nguồn mô tả 45 công cụ AI có thể truy cập dữ liệu quét biển số, dữ liệu camera, hồ sơ bắt giữ, hồ sơ vụ án, nhật ký điều phối, kết quả đạn đạo và cơ sở dữ liệu thương mại chứa số An sinh xã hội, ngày sinh, số điện thoại, email, người thân và cộng sự.

Một lời nhắc được cài sẵn có nội dung: *"Tìm nhân chứng dựa trên các phương tiện xuất hiện nhiều nhất tại [khu phố] trong [14 ngày qua] trong [khung giờ hàng ngày]. (sẽ không bao gồm phương tiện trong danh sách trắng)." Cảnh sát chỉ cần điền vào chỗ trống và gửi. Kết quả là danh sách biển số, sau đó được chuyển thành tên và địa chỉ nhà.

Một lời nhắc khác yêu cầu hệ thống liệt kê tất cả những người bị bắt hơn hai lần trong hai năm vì "bất kỳ hành vi phạm tội nào" (miễn trừ tội ma túy), sau đó lập bản đồ nơi họ sống, truy xuất các cuộc gọi dịch vụ tại nhà họ và "thực hiện hồ sơ chi tiết về 3 cá nhân hàng đầu". Quy trình bắt đầu với tất cả người có tiền án trong khu vực và kết thúc với hồ sơ tóm tắt của ba người do phần mềm chọn.

Lo ngại về quyền riêng tư và hiến pháp

Các chuyên gia về quyền riêng tư và pháp lý bày tỏ lo ngại nghiêm trọng. Jay Stanley, nhà phân tích chính sách cấp cao tại ACLU, nhận định: "Tôi nghĩ hầu hết mọi người hình dung rằng camera đọc biển số chỉ kiểm tra xem xe có bị truy nã hay không. Nhưng chúng ta đang chứng kiến sự triển khai AI mạnh mẽ của Flock. Theo một cách nào đó, giống như Trung Quốc, khoảng cách giữa những gì có thể làm và những gì đang được làm là rất nhỏ."

Noel Pichardo, cựu cảnh sát từng tham gia chương trình thử nghiệm công nghệ Flock tại Pawtucket, Rhode Island, nhận xét: "Tôi không biết nói sao cho khác, nhưng điều này nghe có vẻ hoàn toàn điên rồ. Tôi không biết làm sao ai có thể phản đối ý kiến rằng Flock thực sự theo dõi con người."

Một đặc vụ tại cơ quan thực thi pháp luật California (giấu tên) lại có quan điểm khác: "Tôi không biết về sản phẩm AI này, nhưng nó không thay đổi cách tôi nghĩ. Chúng tôi sẽ sử dụng bất kỳ công cụ nào có sẵn để giải quyết tội phạm. Điều đó không gây tranh cãi."

Vấn đề lạm dụng và thiếu kiểm soát

Flock đang xây dựng hệ thống AI này trong bối cảnh bị giám sát chặt chẽ vì cách cảnh sát lạm dụng camera hiện có. Một cảnh sát Texas đã tìm kiếm hơn 83.000 camera trên toàn quốc để tìm một phụ nữ tự phá thai. Phân tích của Washington Post cho thấy 50 sĩ quan bị buộc tội hoặc bị cáo buộc sử dụng sai hệ thống đọc biển số, trong đó 26 người dùng để theo dõi vợ, bạn gái, người yêu cũ.

WIRED đã chia sẻ phát hiện với Buchodi, một nhà nghiên cứu bảo mật độc lập, người đã kiểm tra mã nguồn của Flock và tái tạo các phần chính của phân tích. Tuy nhiên, mã nguồn không thể hiện cách hệ thống hoạt động thực tế khi sử dụng - không có hướng dẫn cho mô hình AI và không tiết lộ máy chủ Flock xử lý yêu cầu như thế nào.

Garrett Langley, CEO của Flock, từng ví công cụ này như một nhà phân tích tội phạm "luôn thức, luôn theo dõi bạn". Tại buổi trình diễn cho cảnh sát trưởng ở Denver năm ngoái, ông mô tả khả năng tìm kiếm mọi camera trong thành phố để tìm xe bám theo xe bọc thép chở tiền, lấy thông tin chủ xe và kiểm tra tiền án trong chưa đầy một phút. Ông nói các nhà điều tra dùng thử sẽ "nghiện".

Tương lai của "agentic policing"

Andrew Guthrie Ferguson, giáo sư luật tại Đại học George Washington, nhận định hệ thống như vậy là tất yếu: "Để sử dụng tất cả dữ liệu thu thập được, bạn cần xây dựng khả năng truy vấn. Để giúp cảnh sát dễ dàng hơn, bạn phải lập trình sẵn hệ thống với các lời nhắc ngôn ngữ tự nhiên và quy trình tự động hóa."

Tuy nhiên, ông cũng chỉ ra: "Có rất nhiều hoạt động vô tội có thể bị gắn cờ, dù nó cũng có thể rất hữu ích cho nhà điều tra."

Chad Marlow, luật sư điều hành chiến dịch "Get The Flock Out" của ACLU, nhấn mạnh mối nguy hiểm: "Sự khác biệt giữa việc cảnh sát nói 'Bạn có thấy mô hình tội phạm nào không' và 'Tìm cho tôi mô hình tội phạm' sẽ tạo ra hai kết quả khác nhau. Việc không có giới hạn nào cho lời nhắc cho phép cảnh sát gần như dẫn dắt AI làm những gì họ muốn."

Flock cho biết sản phẩm này vẫn đang trong giai đoạn phát triển và thử nghiệm với một nhóm nhỏ đối tác thực thi pháp luật. Công ty cũng đang tuyển dụng kỹ sư để "thúc đẩy sự phát triển kiến trúc" của hệ thống mới, kết nối vào nền tảng dữ liệu lớn hơn và xây dựng khung hoạt động thay mặt cho nhà điều tra, bao gồm tạo khách hàng tiềm năng tự động và tương quan chéo camera.

Ferguson kết luận: "Rõ ràng Flock có tham vọng vượt xa công nghệ đọc biển số để trở thành nền tảng kỹ thuật số cho hoạt động cảnh sát. Chúng ta đang ở ngưỡng cửa của kỷ nguyên cảnh sát tác tử (agentic policing), và khả năng tạo chatbot ngôn ngữ tự nhiên để tìm kiếm trong các tập dữ liệu khổng lồ sẽ sớm trở thành tiêu chuẩn."