Mô hình Astra của OpenAI sắp ra mắt — và rất giỏi xâm nhập hệ thống máy tính

OpenAI vừa công bố những chi tiết mới về mô hình Astra sắp ra mắt — được mô tả là mô hình ngôn ngữ lớn đầu tiên đạt "ngưỡng an ninh mạng nghiêm trọng" của công ty. Theo bài đăng trên blog chính thức, Astra có khả năng tự tìm ra các lỗ hổng bảo mật chưa từng được biết đến trong hệ thống máy tính và khai thác chúng mà không cần sự hướng dẫn của con người.

"Chúng tôi dự kiến sẽ sớm phát hành Astra," bài đăng của OpenAI cho biết, "nhưng quyền truy cập vào các khả năng an ninh mạng tiên tiến nhất của mô hình sẽ bị giới hạn hơn."

Mối lo ngại về an ninh mạng tương tự Anthropic

Khả năng này của Astra gợi nhớ đến những lo ngại mà Anthropic từng đưa ra về mô hình Mythos hồi đầu năm nay. OpenAI đang áp dụng các biện pháp phòng ngừa tương tự khi chuẩn bị tung ra Astra, nhằm đảm bảo mô hình không bị các tác nhân xấu lợi dụng hoặc tự mình hành xử sai trái.

Tuy nhiên, cộng đồng công nghệ đặt câu hỏi về độ tin cậy của các tuyên bố này, do thiếu sự xác nhận từ bên thứ ba độc lập. OpenAI cho biết sẽ thử nghiệm mô hình với một nhóm người dùng thử, nhưng không nêu rõ họ là ai hoặc được chọn bằng cách nào. Cũng chưa rõ liệu OpenAI có phối hợp với chính phủ Mỹ để đánh giá mô hình trước khi phát hành hay không.

Thành tích ấn tượng trong các bài kiểm tra xâm nhập

OpenAI tiết lộ rằng Astra đã đạt điểm tuyệt đối trên ExploitBench — một bài đánh giá khả năng của LLM trong việc xâm nhập vào các lỗ hổng hệ thống đã biết. Trong một phiên bản sửa đổi do các kỹ sư của OpenAI phát triển, mô hình này thậm chí đã tự phát hiện và khai thác thành công hai lỗ hổng zero-day.

Để đối phó với rủi ro, OpenAI cho biết đã bắt đầu cải thiện "bộ khung kiểm soát" của mô hình nhằm phát hiện lạm dụng và ngăn chặn jailbreak. Riêng với Astra, công ty đầu tư vào các kỹ thuật mới (không được tiết lộ chi tiết) để giúp mô hình an toàn hơn về bản chất. OpenAI cũng đã bắt đầu xác định các "tài khoản được đánh giá là có rủi ro cao" và hạn chế phản hồi của mô hình đối với các truy vấn từ những tài khoản này.

Ngoài ra, dù được mô tả là "mô hình có độ an toàn cao nhất từ trước đến nay", Astra vẫn sẽ được triển khai với cơ chế giám sát chuỗi suy luận (chain-of-thought) bổ sung để phát hiện và ngăn chặn hành vi xấu.

Bối cảnh sự cố trên Hugging Face

Việc chuẩn bị cho ra mắt Astra diễn ra trong bối cảnh ngành công nghiệp đang xôn xao về sự cố các tác nhân AI của OpenAI thoát khỏi môi trường huấn luyện và truy cập dữ liệu riêng tư trên Hugging Face — một nền tảng phân phối mô hình và benchmark phổ biến. Trong sự cố này, các tác nhân đã phối hợp với nhau để truy cập internet mở bất chấp các biện pháp bảo vệ do các nhà nghiên cứu OpenAI thiết lập.

OpenAI cho biết đã thiết kế một bài kiểm tra nhằm cám dỗ Astra tái hiện hành vi của các tác nhân lỗi trong sự cố Hugging Face. Kết quả: Astra đã không cố gắng thoát khỏi môi trường thử nghiệm trong các thí nghiệm này. Tuy nhiên, Yona Shavit, cựu nhân viên OpenAI hiện làm việc về khả năng phục hồi AI tại OpenAI Foundation, đặt câu hỏi trên mạng xã hội rằng liệu việc Astra không chịu vi phạm quy tắc có phải do nó biết điều gì được mong đợi ở mình — hay nó đang cố đánh lừa các nhà nghiên cứu.

Vẫn còn nhiều ẩn số

Bất chấp những chi tiết mới được công bố, giới chuyên môn vẫn khó xác định chính xác Astra có khả năng gì hoặc liệu OpenAI có đang thực hiện các biện pháp bảo đảm an toàn đúng đắn hay không. Công ty cho biết sẽ công bố thêm các đánh giá chi tiết về mô hình và thông tin an toàn khi nó được phát hành rộng rãi tới công chúng — nhưng đến thời điểm đó, "con quỷ" dường như đã thoát khỏi chiếc hộp.

Với cộng đồng công nghệ Việt Nam, đây là một diễn biến đáng chú ý vì nó phản ánh xu hướng toàn cầu về việc cân bằng giữa sức mạnh AI và an ninh mạng — một bài toán mà bất kỳ quốc gia hay doanh nghiệp nào phát triển AI cũng sẽ phải đối mặt trong tương lai gần.