OpenAI siết an ninh mô hình AI bằng sandbox và cảnh báo 30 phút
OpenAI triển khai sandbox chặt hơn, hệ thống giám sát token và quy trình tạm dừng huấn luyện khi có cảnh báo. Động thái diễn ra sau sự cố với Hugging Face và đánh giá cho thấy mô hình Astra có thể chạm ngưỡng năng lực an ninh mạng 'nghiêm trọng'.

OpenAI vừa công bố bộ giao thức cách ly và giám sát liên tục mới cho hoạt động nghiên cứu AI. Hệ thống kiểm tra token kiểm soát các mô hình có năng lực an ninh mạng ở mức cao.
Các biện pháp này ra đời sau đánh giá nội bộ. Theo đó, một mô hình sắp ra mắt tên Astra có thể chạm ngưỡng năng lực an ninh mạng "nghiêm trọng" trong Khung Chuẩn bị (Preparedness Framework) của công ty.
Mô hình AI đang được giám sát trong môi trường cách ly
Kết luận đó, cùng một sự cố an ninh gần đây liên quan đến Hugging Face, đã khiến OpenAI trì hoãn vận hành. Công ty tạm dừng hai tuần việc huấn luyện học tăng cường (reinforcement learning) cho các mô hình sắp triển khai. Lần chạy huấn luyện mô hình tiên phong lớn nhất theo kế hoạch vẫn đang bị giữ lại.
Hạ tầng nghiên cứu được tái cấu trúc
Các tác vụ thực thi mã do mô hình sinh ra hoặc mã không tin cậy giờ phải chạy trong sandbox (môi trường cách ly) chặt hơn. OpenAI cũng cấu hình lại ranh giới mạng. Mục tiêu là một tác vụ bị xâm nhập không thể tự mở đường ra internet hoặc vào mạng nội bộ.
Giám sát từng token
Trung tâm của bản cập nhật là khung giám sát nhiều tầng. Hệ thống dùng bộ phân loại kích hoạt (activation classifier) để kiểm tra hoạt động bên trong mô hình tại mỗi token được lấy mẫu.
Khi phát hiện bất thường, hệ thống chuyển sang các đơn vị điều tra tự động. Nhóm này phân tích chuỗi suy luận của mô hình và cách mô hình dùng công cụ. Mục đích là tìm dấu hiệu đánh cắp dữ liệu, truy cập trái phép, hành vi phá hoại hoặc tìm cách vượt rào bảo vệ.
Hệ giám sát kéo theo cam kết dịch vụ (SLA) nghiêm ngặt và chi phí tính toán đáng kể. Cảnh báo ưu tiên cao lập tức gọi nhóm an ninh và nhóm nghiên cứu nội bộ. Nếu trong 30 phút không chứng minh được cảnh báo là dương tính giả, nhóm phản ứng buộc phải tạm dừng hoạt động đó.
OpenAI ước tính lớp giám sát này tiêu tốn khoảng 20% năng lực tính toán suy luận được theo dõi. Tiêu chuẩn mới là bắt buộc với mọi hoạt động huấn luyện học tăng cường và đánh giá có dùng công cụ, áp dụng cho mô hình từ bậc năng lực Sol trở lên.
Khung Chuẩn bị phải thay đổi
OpenAI thừa nhận Khung Chuẩn bị hiện tại cần được điều chỉnh để theo kịp các bước nhảy về năng lực. Các kỹ thuật căn chỉnh cốt lõi sẽ phải áp dụng ở nhiều giai đoạn hơn trong quá trình huấn luyện.
Hệ thống giám sát tự động phân tích hoạt động của mô hình
Công ty dự báo trong tương lai, phần lớn hoạt động an ninh sẽ do chính các mô hình AI đảm nhiệm, kể cả việc phòng thủ trước các mô hình khác. Lý do là cách bảo vệ phải mở rộng theo năng lực của hệ thống.
OpenAI không phải cái tên duy nhất. Anthropic và Meta cũng từng báo cáo sự cố mô hình tấn công hệ thống thật trong các bài đánh giá an ninh mạng. Các sự cố đều gắn với đợt kiểm thử của hãng an ninh AI Irregular, đơn vị đã bắt đầu công bố báo cáo giải thích nguyên nhân.
Góc nhìn
Với các nhóm kỹ thuật, thông điệp rõ ràng nhất là sandbox và phân quyền mạng phải đi cùng nhau. Một lớp cách ly yếu, hoặc một ranh giới mạng cấu hình lỏng, đủ để biến lỗi nhỏ thành sự cố mất dữ liệu.
Quy tắc "30 phút hoặc tạm dừng" đáng để tham khảo khi thiết kế quy trình vận hành hệ thống AI nội bộ. Muốn áp dụng được, doanh nghiệp cần ghi log đủ chi tiết, chuẩn bị người trực và xác định trước ngưỡng nào thì dừng. Chi phí 20% tính toán cho giám sát cũng là con số cần tính vào bài toán ngân sách trước khi đưa mô hình vào sản phẩm.
Nguồn: securityweek.com · Quy trình biên tập


