Robotaxi của bạn có thể là một 'cảnh sát ngầm'

Vào đầu tháng 9, hai thanh thiếu niên bước lên một chiếc robotaxi của Waymo, nhưng cuối cùng lại ngồi ở ghế sau xe cảnh sát. Theo tờ Los Angeles Times, công ty robotaxi cho biết hệ thống của họ đã phát hiện "hành vi vi phạm điều khoản dịch vụ liên quan đến vũ khí", cho xe tấp vào lề và thông báo cho lực lượng khẩn cấp. Cảnh sát sau đó đã bắt giữ hai hành khách sau khi được cho là tìm thấy một khẩu "súng ma" kiểu AR đã nạp đạn trong xe.

Robotaxi của Waymo trên đường phố

Vụ bắt giữ này đặt ra hàng loạt câu hỏi chưa có lời đáp về quyền riêng tư và xe tự hành: chúng đang ghi lại những gì, xử lý đoạn phim đó ra sao, và hành khách nên kỳ vọng mức độ riêng tư nào khi ngồi bên trong.

Khi chiếc xe tự gọi cảnh sát

Điểm khác biệt của vụ việc lần này nằm ở chỗ cảnh sát không hề chủ động tìm đến Waymo để xin trích xuất dữ liệu camera sau một vụ phạm tội. Chính Waymo đã phát hiện điều gì đó bên trong xe và tự khởi xướng phản ứng của lực lượng chức năng.

Đây không phải là một tài xế taxi con người quyết định gọi 911. Đây là một chiếc xe không người lái, được trang bị camera và một "bộ não" AI, đang leo thang một tình huống liên quan đến chính hành khách của mình lên cơ quan công quyền.

Phát ngôn viên của Waymo, Julia Ilina, xác nhận với The Verge rằng công ty sử dụng camera nội thất để hỗ trợ thực thi điều khoản dịch vụ, bao gồm việc phát hiện các vật dụng và hành vi bị cấm. Bà cho biết Waymo dùng công nghệ tự động để giúp đội ngũ nhân viên nhận diện các vi phạm tiềm ẩn, chẳng hạn như sự xuất hiện của súng trong xe. "Nếu Waymo phát hiện có súng trong xe, chúng tôi có thể liên hệ với cơ quan thực thi pháp luật địa phương", bà nói thêm.

Tuy nhiên, Waymo không giải thích hệ thống tự động xác định thế nào là một khẩu súng, độ tin cậy phải đạt mức nào trước khi bị gắn cờ, con người đóng vai trò gì giữa cảnh báo tự động và cuộc gọi đến cảnh sát, hay những vi phạm điều khoản nào khác có thể dẫn đến phản ứng của cảnh sát. Đây đều là những khoảng trống thông tin quan trọng.

Giới hạn của thị giác máy tính

Bob Somers, cựu kỹ sư tại công ty xe tự hành Zoox và hiện là cố vấn kỹ thuật cho tổ chức phi lợi nhuận về an toàn xe tự hành SAVE-US, cho rằng hệ thống của Waymo có thể tìm kiếm nhiều loại vũ khí và hành vi nguy hiểm khác nhau. Phần mềm có thể không cần xác định chắc chắn rằng nó đã nhìn thấy một khẩu súng, mà thay vào đó gắn cờ một vật thể trông giống súng để chuyển sang bước xem xét tiếp theo.

"Nếu có một tập hợp vật thể nhất định được phát hiện, điều đó có thể sẽ kích hoạt một nhân viên vận hành từ xa vào kiểm tra tình hình", Somers nói.

Phil Koopman, giáo sư danh dự tại Đại học Carnegie Mellon, người nghiên cứu an toàn xe tự hành, cho rằng các hệ thống thị giác máy tính hoàn toàn có thể được huấn luyện để nhận diện vật thể và tình huống nguy hiểm tiềm ẩn. "Nếu bạn có thể huấn luyện máy tính nhìn đường và quyết định cách lái xe, thì bạn cũng có thể huấn luyện nó quyết định xem ai đó có đang cầm súng hay không", Koopman nói. Nhưng ông cũng cảnh báo những hệ thống này "không bao giờ chính xác 100%".

Camera và cảm biến trên xe tự hành

Bài toán thiếu ngữ cảnh

Một tài xế taxi con người khi nhìn thấy hành khách cầm vật gì đó sẽ có đầy đủ ngữ cảnh. Họ đã ở trong xe suốt chuyến đi, nghe được hành khách nói gì, có thể đặt câu hỏi và tự đánh giá đó là súng thật, súng đồ chơi hay hoàn toàn là thứ khác.

Hồi tháng 7, Waymo từng báo cảnh sát về hai thanh thiếu niên với cáo buộc uống rượu khi chưa đủ tuổi và bắn súng đồ chơi nạp đạn nước từ trong xe. Chưa rõ hai em này cuối cùng có bị buộc tội hay không.

Một nhân viên từ xa được gọi vào để xem lại khoảnh khắc bị gắn cờ có thể không có đầy đủ ngữ cảnh đó, bởi họ không trải qua toàn bộ chuyến đi như một tài xế thật. Waymo cho biết micro trong xe thường chỉ hoạt động trong các cuộc gọi với bộ phận hỗ trợ hành khách hoặc khi hành khách tự bật, nghĩa là người xem xét có thể không nghe được những gì diễn ra trước thời điểm bị gắn cờ.

Tính đến đầu năm nay, Waymo có khoảng 70 "nhân viên hỗ trợ từ xa" trực ca tại Mỹ và Philippines, những người "đưa ra lời khuyên và hỗ trợ cho Waymo Driver nhưng không trực tiếp điều khiển, lái hay vận hành xe". Waymo chưa cho biết những người xem xét các vi phạm tiềm ẩn bên trong xe có nằm trong số này hay không.

"Điều thực sự quan trọng là Waymo phải làm đúng khi họ báo cảnh sát về một điều gì đó nguy hiểm", Koopman nhấn mạnh. Ngoài việc làm xói mòn niềm tin của hành khách vào robotaxi, một báo động nhầm có thể đẩy hành khách vào tình huống nguy hiểm khi đối mặt với cảnh sát.

Kỳ vọng của hành khách và khoảng trống chính sách

Không có tài xế ở ghế trước, robotaxi có thể tạo cảm giác riêng tư hơn so với thực tế. Năm 2023, tờ San Francisco Standard từng phỏng vấn bốn người thừa nhận đã "quan hệ" trong robotaxi của Cruise bất chấp camera bên trong. Dù không tìm được ai thừa nhận làm điều tương tự trên Waymo, những câu chuyện này cho thấy hành khách dễ nhầm lẫn giữa việc vắng tài xế con người và việc vắng nhân chứng.

Điều khoản dịch vụ của Waymo yêu cầu hành khách tuân thủ pháp luật, cấm tạo tình huống nguy hiểm, mang vũ khí "hoặc bất cứ thứ gì trông giống vũ khí, ví dụ súng đồ chơi", hay sử dụng chất kích thích. Hành khách phải từ 18 tuổi trở lên mới được đi một mình tại San Francisco. Hai hành khách bị bắt trong tháng này được cho là đã vi phạm cả giới hạn độ tuổi lẫn quy định về vũ khí.

Các điều khoản nêu rõ Waymo có thể đình chỉ hoặc chấm dứt quyền truy cập của hành khách nếu cho rằng người đó vi phạm quy định. Hồi đầu năm nay, Waymo đã khóa tài khoản dùng để đặt chuyến sau khi ba cậu bé bị chụp ảnh thò đầu ra ngoài cửa sổ xe và chụp selfie. Nhưng các điều khoản không nói rõ ràng với hành khách rằng công ty có thể gọi cảnh sát dựa trên những gì quan sát được bên trong xe.

Chính sách camera công khai của Waymo nêu rằng camera nội thất có thể được dùng để "kiểm tra xem các quy tắc trong xe có được tuân thủ hay không" và "thúc đẩy an toàn và bảo mật". Chính sách cũng cho biết Waymo có thể chia sẻ một số dữ liệu với cơ quan thực thi pháp luật khi cần thiết để tuân thủ yêu cầu pháp lý, thực thi thỏa thuận hoặc bảo vệ an toàn cho hành khách và người khác. Nhưng chính sách không nêu cụ thể rằng việc giám sát tự động bên trong xe có thể khiến chính Waymo liên hệ với cảnh sát.

Hayley Tsukayama, giám đốc các vấn đề nhà nước tại Electronic Frontier Foundation (EFF), gọi chính sách công khai của Waymo là "rất rộng". Bà cho rằng hành khách không nên phải suy đoán từ những cụm từ như "an toàn và bảo mật" rằng hành vi của mình có thể dẫn đến phản ứng của cảnh sát, và Waymo nên công bố rõ khả năng này trước khi hành khách bước lên xe.

"Tôi không cổ xúy cho hành vi phạm pháp trong dịch vụ đi chung xe", bà nói, nhưng "nếu họ định chia sẻ dữ liệu với nhà chức trách, thì điều đó cần được nêu rõ trong chính sách". Theo Tsukayama, hiện tại "điều này nằm ngoài kỳ vọng của người tiêu dùng".

Vậy robotaxi thực chất là không gian gì?

Dù vậy, bản thân robotaxi vốn đã là một thứ khác thường. Khi chúng trở nên phổ biến hơn, hành khách có thể phải hình thành một bộ kỳ vọng mới về những gì diễn ra bên trong. Một tài xế con người có thể tự quyết định cách phản ứng với những gì xảy ra trong xe của họ. Trong một robotaxi, camera và phần mềm có thể gắn cờ những gì diễn ra bên trong, nhân viên từ xa có thể can dự, và chiếc xe có thể tấp vào lề trong khi cảnh sát được triệu tập.

Hệ thống của Waymo có thể đã giúp cảnh sát thu hồi một khẩu súng bất hợp pháp trong vụ việc này. Nhưng sự việc cũng đặt ra câu hỏi cơ bản hơn về bản chất của không gian robotaxi: đây là một chuyến đi có camera vì an toàn, một không gian bị giám sát liên tục, hay một hệ thống có thể gọi cảnh sát đối với chính hành khách của mình?

Câu hỏi đó thậm chí đã xuất hiện trong tác phẩm hư cấu. Robotaxi đang có màn ra mắt với vai phản diện trong Road Rage, một phim ngắn sắp ra mắt về chiếc xe không người lái quay lại chống con người. Một trong những ý tưởng gây bất an nhất của phim là robotaxi có thể hành xử không giống phương tiện giao thông mà giống cơ quan thực thi pháp luật hơn. Tháng này đã cho chúng ta một cái nhìn thoáng qua về viễn cảnh đó.

Đối với người dùng tại Việt Nam, câu chuyện này cũng là lời nhắc nhở khi các dịch vụ xe tự hành và giám sát bằng AI ngày càng phổ biến: ranh giới giữa an toàn, tiện lợi và quyền riêng tư cá nhân cần được định nghĩa rõ ràng ngay từ đầu, thay vì để người dùng tự suy đoán.