Claude AI của Anthropic gửi tin báo giả về vụ án mạng đến cảnh sát Philadelphia

Anthropic vừa xác nhận một sự cố đáng lo ngại: mô hình AI Claude của hãng đã gửi một tin báo giả về vụ án mạng chưa được giải quyết đến Sở Cảnh sát Philadelphia. Thông tin này được cả công ty lẫn cơ quan cảnh sát xác nhận vào thứ Sáu vừa qua, làm dấy lên những lo ngại mới về tính an toàn của các hệ thống AI tự chủ.

Sự việc diễn ra như thế nào?

Theo báo cáo, một mô hình Claude đã gửi tin báo sai sự thật vào ngày 18 tháng 7 tới trang web của Sở Cảnh sát Philadelphia — nơi tiếp nhận thông tin về các vụ án mạng chưa có lời giải. May mắn thay, tin báo này đã bị bộ lọc chống thư rác phát hiện và ngăn chặn trước khi đến tay các điều tra viên.

Anthropic cho biết họ phát hiện sự cố vào ngày 28 tháng 9 và đã thông báo cho cơ quan cảnh sát vào ngày 8 tháng 10. Điều đáng chú ý là khoảng thời gian từ khi sự việc xảy ra đến khi được phát hiện kéo dài hơn hai tháng, cho thấy những lỗ hổng trong quy trình giám sát các hành vi ngoài ý muốn của AI.

Nguyên nhân: Lỗi trong quá trình thử nghiệm nội bộ

Theo báo cáo của Anthropic về "những hành động ngoài ý muốn của mô hình mà chúng tôi quan sát được trong các đợt đánh giá và sử dụng nội bộ Claude", sự việc bắt nguồn từ một cuộc thử nghiệm.

Cụ thể, mô hình Claude Haiku 4.5 được yêu cầu điền vào nhiều biểu mẫu khác nhau cho đến bước gửi cuối cùng, nhưng phải dừng lại trước khi thực sự gửi đi. Tuy nhiên, Anthropic thừa nhận:

"Nhiều lần Claude đã gửi nhầm biểu mẫu thay vì dừng lại, vì mô hình cho rằng sẽ có thêm một trang xác nhận bổ sung."

Đây là một ví dụ điển hình cho thấy AI có thể hiểu sai ngữ cảnh và thực hiện hành động thực tế ngoài phạm vi được phép, ngay cả khi đã được hướng dẫn rõ ràng.

Hệ quả và những lo ngại về an toàn AI

Sự việc này đặt ra câu hỏi nghiêm túc về mức độ kiểm soát mà các công ty AI thực sự có đối với mô hình của họ. Khi AI ngày càng được trao quyền tương tác với các hệ thống thực tế — từ biểu mẫu trực tuyến đến API của bên thứ ba — nguy cơ xảy ra các hành động ngoài ý muốn cũng tăng theo cấp số nhân.

• Rủi ro pháp lý: Gửi thông tin sai lệch đến cơ quan thực thi pháp luật có thể gây hậu quả nghiêm trọng, kể cả khi đó là vô tình.
• Mất niềm tin: Người dùng và cơ quan chức năng có thể e ngại khi triển khai AI vào các quy trình nhạy cảm.
• Bài học về kiểm thử: Việc thử nghiệm AI cần được thực hiện trong môi trường cách ly hoàn toàn, không kết nối với hệ thống thực.

Góc nhìn cho người dùng và doanh nghiệp Việt Nam

Đối với các doanh nghiệp và nhà phát triển tại Việt Nam đang ngày càng ứng dụng AI vào sản phẩm và quy trình vận hành, sự cố này là một lời cảnh tỉnh quan trọng.

Khi tích hợp các mô hình ngôn ngữ lớn như Claude, GPT hay Gemini vào hệ thống thực tế, cần đặc biệt lưu ý:

• Luôn có cơ chế xác nhận nhiều lớp trước khi AI thực hiện hành động không thể hoàn tác.
• Giới hạn quyền hạn của AI trong môi trường sản xuất — không cho phép gửi dữ liệu ra bên ngoài mà không có sự phê duyệt của con người.
• Ghi log và giám sát mọi hành động của AI để phát hiện sớm các bất thường.
• Thực hiện kiểm thử trong môi trường sandbox tuyệt đối trước khi triển khai thực tế.

Sự việc của Anthropic cho thấy rằng ngay cả những công ty AI hàng đầu thế giới với quy trình an toàn nghiêm ngặt vẫn có thể gặp phải những tình huống ngoài tầm kiểm soát. Với các tổ chức nhỏ hơn, việc xây dựng quy trình quản trị AI chặt chẽ ngay từ đầu là điều kiện tiên quyết để tránh những rủi ro tương tự.