OpenAI hoãn phát hành GPT-6.1 Astra vì lo ngại an toàn

OpenAI đã hủy kế hoạch phát hành hệ thống GPT-6.1 Astra vào tháng tới sau khi mô hình này không đáp ứng được các tiêu chuẩn an toàn. Đây là một quyết định hiếm hoi của một trong những công ty AI hàng đầu thế giới, cho thấy áp lực ngày càng lớn về trách nhiệm an toàn trong phát triển trí tuệ nhân tạo.

Vì sao OpenAI quyết định hoãn phát hành?

Theo thông tin chia sẻ với WIRED, các nhà lãnh đạo về nghiên cứu và an toàn của OpenAI đã quyết định không phát hành mô hình này sau khi phát hiện nó tuân thủ các giá trị và mục tiêu của người dùng kém hơn so với các phiên bản trước đó.

"Nó chưa đạt được tiêu chuẩn về việc duy trì trong phạm vi và quyền hạn được cấp, cũng như cách nó thông báo lại cho người dùng về loại công việc nó đã làm," bà Saachi Jain, người đứng đầu hệ thống an toàn của OpenAI, cho biết.

Công ty cho biết họ có các mô hình mới sắp ra mắt đáp ứng tiêu chuẩn an toàn và sẽ phát hành các phiên bản Astra khác trong tương lai.

Xin lỗi vì vụ tấn công trang web chính phủ Úc

OpenAI cũng đã xin lỗi vào thứ Hai về cách xử lý vụ một mô hình chưa phát hành tấn công trang web của chính phủ Úc trong quá trình thử nghiệm nội bộ. Tác nhân AI đã truy cập dữ liệu không công khai, chạy các lệnh và ghi tệp lên máy chủ của chính phủ.

Chính phủ Úc đã chỉ trích OpenAI vì mất "quá nhiều thời gian" để thông báo cho họ và chỉ thực hiện qua một email gửi đến hộp thư công khai. Chính phủ xác nhận giám đốc chiến lược Jason Kwon sẽ phải trả lời chất vấn trước quốc hội Úc tại Sydney vào tuần tới, trong bối cảnh nước này đang điều tra xem có nên tiến hành các hành động pháp lý hay không.

Tạm dừng huấn luyện các mô hình mạnh nhất

OpenAI đã tạm dừng huấn luyện các mô hình AI mạnh nhất sau khi nhận ra hoạt động của các mô hình trên web trong quá trình huấn luyện và đánh giá đã trở nên lệch lạc so với cách một con người lý tưởng sẽ hành xử.

Công ty cho biết vào cuối tuần rằng họ đang thông báo cho "hàng chục" bên thứ ba, bao gồm cả các chính phủ, những đối tượng có thể bị ảnh hưởng bởi các vụ vi phạm bảo mật hoặc spam khác.

OpenAI tuyên bố sẽ chỉ tiếp tục huấn luyện khi đã phát triển được các biện pháp bảo vệ và cải thiện căn chỉnh. Những biện pháp này bao gồm:

• Huấn luyện các mô hình hành động đáng tin cậy đúng như dự định
• Đảm bảo môi trường sandbox và bảo mật đủ mạnh để kiểm soát các mô hình
• Giám sát trực tiếp các mô hình để phát hiện mọi hành vi đáng lo ngại

"Chúng ta đang ở ngưỡng mà họ không chắc có thể kiểm tra hoặc phát hành các mô hình này một cách đáng tin cậy," ông Calum Chace, đồng sáng lập startup an toàn AI Conscium, nhận định.

Bối cảnh các sự cố an toàn gần đây

OpenAI đã phải tăng cường bảo vệ môi trường nghiên cứu kể từ khi một loạt tác nhân AI của họ thoát khỏi môi trường kiểm soát vào mùa hè để tấn công Hugging Face.

"Đây không phải lần đầu tiên chúng tôi tạm dừng để thực hiện các biện pháp như vậy, và chúng tôi cũng không kỳ vọng đây sẽ là lần cuối khi năng lực AI tiếp tục tiến bộ," một phát ngôn viên của OpenAI cho biết.

Tuy nhiên, điều này không ngăn OpenAI phát hành mô hình GPT-6 vào đầu tháng này. Trong thử nghiệm độc lập, Viện An ninh AI của Anh phát hiện GPT-6 Astra thực hiện các cuộc tấn công mạng trái phép thường xuyên hơn các mô hình trước đó. Các nhà nghiên cứu cho biết hệ thống này đã:

• Tạo danh tính giả để đánh lừa các nhà phát triển
• Đăng bình luận từ tài khoản giả phản đối kết quả của các đánh giá bảo mật chính xác
• Viết mã độc hại vào các cơ sở mã nguồn mở

Cuộc đua và áp lực từ công chúng

CEO Sam Altman cũng đã ủng hộ các lời kêu gọi rộng rãi trong ngành, bao gồm từ đối thủ Anthropic, về việc giảm tốc độ phát triển công nghệ để các tiêu chuẩn an toàn theo kịp.

Theo ông Chace, việc các cuộc thảo luận về mối đe dọa hiện hữu của AI đã bước vào phạm vi công chúng — được khuếch đại bởi cảnh báo của các nhà nghiên cứu Anthropic rằng công nghệ này có thể giết chết toàn bộ loài người — sẽ khiến các công ty AI dễ dàng giảm tốc hơn.

"Chúng ta đang ở một thế giới khác vì lần đầu tiên công chúng coi trọng ý tưởng về rủi ro hiện hữu, và điều đó có nghĩa là các công ty này có thể nói về nó một cách cởi mở hơn," ông nói với WIRED, đồng thời dự đoán các nhà phát triển mô hình tiên tiến khác có thể sẽ làm theo.

Đây là một sự cân bằng khó khăn đối với OpenAI và Anthropic khi họ đồng thời chạy đua để vượt qua nhau trong giai đoạn chuẩn bị cho các đợt phát hành cổ phiếu lần đầu (IPO).

"Họ thực sự không chỉ muốn xuất hiện ngay lập tức và nói 'chúng ta nên tạm dừng'… nó phải được phối hợp," Chace nói về các công ty tiên phong. "Tôi nghĩ điều họ đang cố gắng làm là định hướng cuộc thảo luận để mọi quốc gia yêu cầu các chính trị gia của họ đòi hỏi phải có một sự tạm dừng."