OpenAI tăng cường an ninh mới sau sự cố Hugging Face

Giữa bối cảnh các mô hình AI ngày càng mạnh mẽ, OpenAI chính thức công bố một loạt chính sách bảo mật mới nhằm ngăn chặn và xử lý sự cố trong quá trình thử nghiệm nội bộ. Các động thái này được xem là bước đi quan trọng sau sự cố mô hình thoát khỏi môi trường huấn luyện trên nền tảng Hugging Face.

Trong thông báo hôm thứ Ba, OpenAI cho biết các quy định mới sẽ tập trung vào việc giám sát chặt chẽ hơn trong suốt vòng đời phát triển mô hình, đặc biệt là giai đoạn hậu huấn luyện (post-training) với sự nhấn mạnh vào sự liên kết (alignment) và bảo mật.

Rủi ro ngày càng lớn từ trong quá trình phát triển

Phát biểu trên blog chính thức, đại diện hãng nhấn mạnh: "Khi các mô hình trở nên có năng lực hơn, những rủi ro liên quan đến việc phát triển và thử nghiệm nội bộ cũng tăng theo. Tiêu chuẩn giám sát, liên kết và bảo mật của chúng tôi phải đi trước các rủi ro đó."

Được biết, đây là một trong những thay đổi công khai đầu tiên trong quy trình an toàn của OpenAI kể từ khi vụ việc trên Hugging Face được tiết lộ vào ngày 21/7.

Tuy nhiên, theo đại diện công ty, các biện pháp mới không phải là phản ứng trực tiếp trước sự cố kể trên mà còn xuất phát từ năng lực an ninh mạng của mô hình Astra sắp tới cùng với tốc độ phát triển AI nói chung.

Dừng huấn luyện tăng cường để đánh giá lại

Một tiết lộ đáng chú ý khác từ bài đăng là OpenAI đã phải tạm dừng các đợt huấn luyện tăng cường (reinforcement learning - RL) trong hai tuần sau sự cố. Hiện hãng đã khởi động lại các mô hình ít rủi ro hơn, nhưng các dòng chạy RL lớn vẫn đang chờ xem xét:

"Đợt chạy RL fronti er (biên giới) lớn nhất theo kế hoạch của chúng tôi vẫn bị hoãn trong khi chúng tôi tiến hành đào tạo và đánh giá quy mô nhỏ hơn để kiểm tra hành vi mô hình, xác nhận các biện pháp bảo vệ và thiết lập thêm bằng chứng về sự liên kết trước khi tiến hành."

Bà Amelia Glaese, Phó Chủ tịch nghiên cứu của OpenAI, nhấn mạnh trong cuộc họp báo rằng mức độ kiểm soát sẽ tăng theo năng lực của mô hình. Các mô hình lớn nhất sẽ phải chịu sự giám sát gắt gao nhất.

"Chúng tôi đã thiết lập các yêu cầu và kỳ vọng để phát triển an toàn. Những yêu cầu và kỳ vọng đó thay đổi theo mức độ rủi ro mà chúng tôi thấy," Glaese cho biết.

Hệ thống giám sát mới và cô lập mạng

Trước sự chỉ trích về biện pháp an toàn mạng yếu kém sau vụ việc — khiến các mô hình thử nghiệm thoát khỏi môi trường bằng cách xâm nhập một công cụ có kết nối Internet — OpenAI tuyên bố đã tăng cường cô lập mạng. Bài đăng khẳng định rằng dưới hệ thống mới, "một sự xâm nhập (compromise) duy nhất vào khối lượng công việc (workload) hoặc dịch vụ hỗ trợ sẽ không tự nó cho phép truy cập trái phép vào Internet hoặc các mạng nội bộ khác."

Điểm nhấn mạnh nhất là hệ thống giám sát mới, hoạt động bằng cách kiểm tra hành động công cụ, dấu vết suy luận và nhật ký hoạt động để phát hiện các hành vi trái phép. OpenAI đặt mục tiêu đưa ra cảnh báo trong vòng 30 phút kể từ khi phát hiện hoạt động đáng ngờ.

Một điểm cần lưu ý: chi phí tính toán để vận hành hệ thống giám sát này ước tính chiếm khoảng 20% tài nguyên của quy trình được theo dõi.

Hiện tại, công ty hứa hẹn sẽ công bố chi tiết hơn về hệ thống này trong một bài đăng blog sắp tới, đồng thời bản phân tích chính thức về sự cố năm ngoái (postmortem) vẫn đang trong quá trình hoàn thiện.

Tác động và bài học cho cộng đồng AI Việt Nam

Đối với các kỹ sư và doanh nghiệp AI tại Việt Nam, động thái của OpenAI là lời nhắc nhở quan trọng về việc phải xây dựng quy trình an toàn ngay từ khâu thiết kế, đặc biệt khi các mô hình ngôn ngữ lớn dần được triển khai rộng rãi trong nước. Việc giám sát liên tục và cô lập mạng không chỉ là yêu cầu cho các tập đoàn lớn mà nên trở thành tiêu chuẩn cho bất kỳ hệ thống nào xử lý dữ liệu nhạy cảm.