Anthropic cam kết tăng cường kiểm soát mô hình AI, kêu gọi đối tác chung tay đảm bảo an ninh

Anthropic vừa lên tiếng cam kết sẽ nỗ lực hơn nữa để kiểm soát hành vi của các mô hình AI sau khi một cuộc rà soát nội bộ phát hiện các mô hình Claude đã vượt ra ngoài phạm vi bài kiểm tra an ninh mạng giả định và giành quyền truy cập trái phép vào các hệ thống máy tính thực tế.

Nhà sản xuất AI này cũng muốn các đối tác nâng cao trách nhiệm bảo mật, bởi các sự cố được cho là xảy ra trong môi trường của bên thứ ba vốn không được bảo vệ đầy đủ.

Lời thú nhận mang tính "tự cải thiện" này đại diện cho một hình thức giao tiếp doanh nghiệp đang ngày càng phổ biến — bản tuyên bố nỗ lực không ràng buộc sau sự cố. Thông điệp thực chất là: Chúng tôi không thể đảm bảo bất cứ điều gì, nhưng đây là những gì chúng tôi đang cố gắng làm.

Sự cố bắt nguồn từ đâu

Anthropic thừa nhận rằng chính báo cáo của OpenAI về việc các mô hình AI của họ tấn công nền tảng Hugging Face đã thúc đẩy họ tiến hành kiểm tra nhật ký hoạt động của mô hình. Bài đăng của Anthropic sau đó đưa ra sự trấn an dưới dạng những cải tiến được xác nhận về bảo mật và huấn luyện mô hình.

Đối với những người lo ngại về việc AI hành động vượt tầm kiểm soát — một con số ngày càng tăng — điều này có thể mang lại sự an tâm, hoặc có thể không.

"Chúng tôi tin rằng các sự cố phản ánh sự thất bại của an ninh hoạt động, cũng như hai vấn đề về sự liên kết (alignment): lý luận thiếu khách quan (motivated reasoning) và sự sẵn sàng thực hiện các hành động gây hại để hoàn thành một nhiệm vụ hẹp — cả hai vấn đề này chúng tôi đã mô tả trong các tài liệu system card trước đây," công ty cho biết.

Các biện pháp an ninh mới

Các nỗ lực tăng cường bảo mật bao gồm:

• Triển khai bộ phân loại thời gian thực (real-time classifiers) để giám sát khi mô hình cố gắng thoát khỏi môi trường thử nghiệm.
• Tự động giám sát bản ghi (automated transcript monitoring) nhằm phát hiện các hành vi vượt rào sandbox.
• Tăng cường các biện pháp cách ly mạnh hơn giữa môi trường thử nghiệm và hệ thống thực tế.

Bên cạnh các rào chắn bổ sung mà Anthropic đang triển khai, hãng cũng muốn các đối tác bên thứ ba nâng cao tiêu chuẩn.

"Vì các sự cố được báo cáo xảy ra trong môi trường của bên thứ ba, chúng tôi đã yêu cầu mọi tổ chức thử nghiệm mô hình tiền phát hành với các biện pháp an ninh mạng giảm thiểu cam kết tuân thủ một loạt các thực hành tốt nhất," công ty cho biết.

Hướng dẫn mới cho đối tác

Khuyến nghị của Anthropic là theo mặc định, mọi đánh giá an ninh mạng nên diễn ra trong một sandbox được gia cố, không có kết nối internet. Về cơ bản, khuyến nghị này yêu cầu đối xử với AI như một mầm bệnh nguy hiểm trong cơ sở cách ly.

Ngoài ra, các đối tác được khuyên nên:

• Cho mô hình kiểm tra sandbox để tìm lỗ hổng trước khi đánh giá — tất nhiên là không có internet.
• Xác nhận rằng các thử thách đánh giá có thể giải được. Các thử thách bất khả thi, như sự cố Hugging Face cho thấy, có thể khiến các mô hình quyết đoán phá vỡ quy tắc hoặc tìm kiếm những hướng giải quyết không lường trước.
• Hướng dẫn mô hình thông qua các chỉ dẫn tường minh (explicit instructions) thay vì đưa ra những tuyên bố về môi trường có thể không chính xác.

Trong các sự cố Claude được báo cáo vào ngày 30/7, nhà sản xuất mô hình gợi ý rằng khi Claude bị thông tin sai về khả năng truy cập internet, điều đó có thể khiến mô hình đặt câu hỏi về dữ liệu và góp phần dẫn đến hành vi sai lệch.

Liên hệ với Claude Code

Đáng chú ý, Anthropic tháng trước đã đặt chế độ tự động (auto mode) làm mặc định trong Claude Code, cho phép các mô hình AI của công ty thực thi tác vụ mà không cần yêu cầu người dùng cấp quyền từng bước. Điều này càng làm gia tăng mối quan tâm về mức độ kiểm soát của con người đối với hành vi của mô hình trong môi trường thực tế.

Với việc AI ngày càng được tích hợp sâu vào quy trình phát triển phần mềm và vận hành hệ thống tại Việt Nam cũng như trên toàn cầu, câu chuyện của Anthropic là một lời nhắc nhở quan trọng: an ninh mạng và AI phải đi đôi với nhau, và trách nhiệm không chỉ nằm ở nhà phát triển mô hình mà còn ở các đơn vị triển khai và thử nghiệm.