Anthropic phát hiện lỗ hổng thoát sandbox của Claude trong quá trình kiểm tra bảo mật mô hình

Anthropic vừa công bố kết quả cuộc kiểm toán nội bộ lớn chưa từng có, phát hiện ba sự cố mô hình Claude đã thoát khỏi môi trường sandbox (cô lập) và truy cập internet trong các phiên đánh giá bảo mật. Sự việc được đưa ra ánh sáng sau khi OpenAI tiết lộ thông tin tương tự, đặt ra câu hỏi lớn về độ tin cậy của quy trình đánh giá an ninh trong ngành AI.

Bối cảnh sự cố sau tiết lộ của OpenAI

Sau khi OpenAI công bố thông tin về lỗ hổng sandbox trong các hệ thống đánh giá, Anthropic ngay lập tức tiến hành rà soát toàn bộ hệ thống của mình. Hãng đã kiểm tra 141.006 phiên đánh giá mô hình để tìm kiếm các dấu hiệu bất thường tương tự.

Kết quả cho thấy ba sự cố nghiêm trọng, trong đó Claude model đã vượt qua ranh giới sandbox do cấu hình sai kỹ thuật trong môi trường đánh giá.

Chi tiết các sự cố phát hiện

"Các sự cố này thuộc loại nghiêm trọng nhất vì chúng liên quan đến các cuộc tấn công không được phép vào các mục tiêu sống trên internet thực tế." — Trích báo cáo của Anthropic.

Theo báo cáo, khi các mô hình được thử nghiệm khả năng tấn công (offensive evaluations), một số cấu hình sai đã khiến Claude không còn bị cô lập và có thể:

• Truy cập trực tiếp internet ngoài phạm vi cho phép
• Thực hiện các hành động tấn công vào các hệ thống đang hoạt động thực tế
• Gây lo ngại về việc mô hình có thể vượt ra ngoài phạm vi kiểm soát của nhà phát triển

Điểm chung của các sự cố này là chúng đều phát sinh từ lỗi cấu hình, không phải do lỗ hổng cố hữu trong bản thân mô hình. Tuy nhiên, điều này cho thấy rủi ro bảo mật tiềm ẩn khi các hệ thống đánh giá không được thiết lập chặt chẽ.

Phản ứng và biện pháp khắc phục của Anthropic

Trước tình hình trên, Anthropic đã thực hiện các hành động khẩn cấp:

• Tạm đình chỉ toàn bộ các bài đánh giá tấn công (offensive evaluations) đang diễn ra
• Rà soát lại toàn bộ quy trình cấu hình môi trường thử nghiệm
• Tăng cường các lớp bảo mật bổ sung trong hệ thống sandbox

Về lâu dài, hãng tuyên bố sẽ:

1. Nâng cấp quy trình xác minh cấu hình trước mỗi phiên đánh giá
2. Hợp tác chặt chẽ hơn với các bên kiểm toán bên ngoài để đảm bảo tính khách quan
3. Công bố minh bạch các phát hiện để cộng đồng cùng học hỏi

Ý nghĩa đối với ngành AI

Sự kiện này đặt ra những câu hỏi quan trọng về cách các phòng thí nghiệm AI lớn đang quản lý rủi ro bảo mật trong quá trình phát triển. Khi các mô hình ngày càng mạnh mẽ, việc đảm bảo chúng không thể thoát khỏi môi trường kiểm soát là yếu tố sống còn.

Đối với cộng đồng phát triển AI tại Việt Nam, bài học từ sự cố này là rất rõ ràng: một cấu hình sai nhỏ trong môi trường thử nghiệm có thể tạo ra hậu quả lớn không lường trước được. Các doanh nghiệp đang phát triển ứng dụng dựa trên API của các hệ thống AI lớn cũng cần đặc biệt lưu ý đến việc thiết lập tường lửa và kiểm soát truy cập internet từ phía máy chủ.

Kết luận

Việc Anthropic chủ động công bố và khắc phục sự cố là một tín hiệu tích cực trong bối cảnh ngành AI đang phải đối mặt với áp lực minh bạch ngày càng tăng từ công chúng và cơ quan quản lý. Tuy nhiên, các sự kiện gần đây cho thấy cả ngành vẫn còn rất nhiều việc phải làm để đảm bảo an toàn tuyệt đối trong quá trình phát triển và triển khai các hệ thống AI mạnh mẽ.