Mỹ điều tra Waymo: bản vá lỗi vượt xe buýt trường học thất bại

Chính quyền Mỹ đang xem xét liệu bản cập nhật phần mềm mà Waymo phát hành sau loạt sự cố vượt xe buýt trường học hồi cuối năm ngoái có thực sự giải quyết được vấn đề an toàn hay không.

Cuộc điều tra chính thức do Cục Quản lý An toàn Giao thông Đường cao tốc Quốc gia Mỹ (NHTSA) tiến hành nhằm xác định liệu bản vá mà công ty cho là đã sửa lỗi có thực sự ngăn được các xe robotaxi (xe tự hành) vượt sai quy định những chiếc xe buýt trường học đang dừng, bật đèn đỏ và mở thanh chắn — dấu hiệu cho thấy xe đang đón hoặc trả học sinh. Vượt những chiếc xe buýt trường học đang dừng như vậy là hành vi vi phạm pháp luật ở cả 50 bang của Mỹ.

Trình tự sự việc

Theo hồ sơ, Waymo đã phát hành bản sửa lỗi phần mềm vào giữa tháng 11, và chính thức thu hồi (recall) tự nguyện một tháng sau đó. Tuy nhiên, phía chính phủ cho biết phần lớn các sự cố liên quan đến xe buýt trường học lại xảy ra sau thời điểm này.

Đầu năm nay, một báo cáo của Ủy ban An toàn Giao thông Quốc gia Mỹ (NTSB) — cơ quan an toàn độc lập của nước này — ghi nhận thêm một vụ vượt xe buýt trường học vào giữa tháng 1, tức vài tuần sau khi bản vá được cho là đã có hiệu lực. NTSB cũng đang điều tra vấn đề này.

Phản hồi từ Waymo

Trong một tuyên bố bằng văn bản, phát ngôn viên của Waymo, Dana Gallagher, khẳng định công ty đã "cải thiện đáng kể hành vi của xe quanh xe buýt trường học", và rằng công ty chưa bị xử phạt vì vượt xe buýt trường học kể từ tháng 3 năm ngoái — thời điểm trước lệnh thu hồi phần mềm vào giữa tháng 12. Bà cho biết Waymo "mong muốn tiếp tục tham gia vào các quy trình thu hồi đối với phần mềm xe tự hành, vốn vẫn đang tiếp tục học hỏi và cải thiện".

Theo WIRED, cuối năm ngoái, khu học chính Austin thậm chí đã hỗ trợ tổ chức một buổi thu thập dữ liệu kéo dài nửa ngày cho xe của Waymo, phối hợp với nhà phát triển xe tự hành để đưa xe buýt trường học và tín hiệu thanh chắn đến một bãi đỗ xe trống, nhằm giúp công ty thu thập thông tin huấn luyện xe tránh thao tác sai quy định trên đường. Buổi thu thập dữ liệu diễn ra sau khi Waymo đã phát hành bản sửa lỗi và lệnh thu hồi tự nguyện. Dù vậy, các sự cố vẫn tiếp diễn.

Trong những năm qua, các cuộc điều tra liên quan đến thu hồi như thế này đã từng dẫn đến các án phạt dân sự, có trường hợp khiến các nhà sản xuất ô tô và nhà phát triển phần mềm thiệt hại hàng chục triệu USD.

Góc nhìn

Câu chuyện của Waymo cho thấy một điểm khó xử cốt lõi của phần mềm xe tự hành: khi hệ thống vẫn "học và cải thiện" liên tục, việc đóng gói một bản vá rồi tuyên bố đã khắc phục lỗi không còn đơn giản như với phần mềm truyền thống. Cơ quan quản lý ngày càng đòi hỏi bằng chứng rằng bản vá thực sự thay đổi hành vi trên đường thực tế, chứ không chỉ tồn tại trên giấy tờ.

Với các kỹ sư và doanh nghiệp Việt Nam đang phát triển hệ thống AI hay phần mềm an toàn cao, bài học là cần xây dựng quy trình đánh giá sau phát hành chặt chẽ, có dữ liệu kiểm chứng độc lập và sẵn sàng chịu trách nhiệm khi kết quả thực tế không khớp với cam kết. Việc ghi nhật ký, tái hiện sự cố và minh bạch dữ liệu huấn luyện không chỉ là yêu cầu kỹ thuật mà còn là yếu tố sống còn về niềm tin và tuân thủ pháp lý.