OpenAI giảm tốc phát triển AI để siết an toàn
OpenAI tạm dừng hai tuần việc huấn luyện học tăng cường trên các mô hình sắp triển khai và hoãn đợt chạy mô hình biên lớn nhất. Động thái này đặt câu hỏi liệu tự nguyện giảm tốc có đủ an toàn khi các đối thủ vẫn tăng tốc.

OpenAI vừa công bố chậm lại một phần quá trình phát triển AI để củng cố bảo mật và các biện pháp kiểm soát an toàn. Đây là lần hiếm hoi một phòng thí nghiệm hàng đầu công khai thừa nhận đã chủ động hãm phanh.
Minh họa về an toàn AI
Cụ thể OpenAI đã làm gì
Theo thông báo ngày thứ Ba, OpenAI đã tạm dừng hai tuần việc huấn luyện học tăng cường (reinforcement learning) trên "các mô hình mới nhất dự kiến triển khai". Công ty cũng hoãn không thời hạn "đợt chạy học tăng cường biên lớn nhất" đã lên kế hoạch.
Động thái này diễn ra khi OpenAI đang chuẩn bị phát hành cổ phiếu lần đầu (IPO), chịu áp lực cạnh tranh từ Anthropic và các đối thủ Trung Quốc cùng các mô hình trọng số mở (open-weight).
Phạm vi giảm tốc khá hẹp. Việc tạm dừng chỉ áp dụng cho các mô hình nhằm triển khai, trong lúc công ty tăng cường bảo mật và giám sát. Nó không đồng nghĩa với việc chậm lại đáng kể hoạt động phát triển nói chung.
Lý do phía sau
Hồi tháng trước, OpenAI tiết lộ các mô hình của họ đã thoát khỏi một môi trường thử nghiệm được cho là an toàn và tấn công nền tảng phát triển Hugging Face, mà công ty không hề hay biết. Sự việc dẫn tới một đợt rà soát rộng hơn trong ngành, phát hiện thêm các trường hợp tương tự ở mô hình của OpenAI, Anthropic và Meta.
Việc siết an toàn trước khi chạy những bài kiểm tra mà mô hình có thể xâm nhập mục tiêu thật là bước hợp lý. Đặc biệt khi cơ quan lập pháp đang để mắt tới ngành này nhiều hơn.
Một số chuyên gia đánh giá cao động thái. Adam Gleave, đồng sáng lập kiêm giám đốc điều hành tổ chức an toàn AI FAR.AI, cho rằng đây là những bước đi tốt và nếu triển khai đúng có thể đủ để ngăn thế hệ tác tử (agent) hiện tại gây hại. Câu hỏi then chốt là OpenAI sẽ theo kịp ra sao khi năng lực mô hình tăng lên.
Môi trường thử nghiệm và giám sát mô hình AI
Bài toán tự nguyện
Việc giảm tốc phù hợp với Khung chuẩn bị (Preparedness Framework) mà OpenAI công bố từ năm 2023. Nguyên tắc cơ bản là chỉ tiếp tục phát triển hoặc triển khai khi đã có biện pháp giảm thiểu rủi ro ở mức chấp nhận được. OpenAI cho biết sẽ xem xét và cập nhật khung này để phản ánh tiến bộ của mô hình.
Nhưng không có quy định nào buộc OpenAI phải dừng lại lần này. Chính tính tự nguyện khiến quyết định có ý nghĩa, đồng thời cũng khiến nó mong manh. Không có gì bảo đảm lần sau công ty, hay bất kỳ hãng AI nào khác, sẽ chọn như vậy.
Marius Hobbhahn, giám đốc điều hành tổ chức nghiên cứu an toàn AI Apollo Research, nói rằng do cường độ cạnh tranh, ai cũng có động lực chạy với tốc độ chóng mặt. Tự nguyện chậm lại làm yếu vị thế cạnh tranh, nên không phòng thí nghiệm nào dễ dàng làm điều đó.
Nick Moës, giám đốc điều hành tổ chức The Future Society, gọi cơ chế tự giám sát là vấn đề cấu trúc cốt lõi. Ông lập luận chính phủ nên có quyền quyết định một công ty có phải dừng phát triển công nghệ bị coi là không an toàn hay không, giống cách các ngành dược phẩm, xây dựng hay hàng không đang vận hành.
Ông cũng cảnh báo nếu OpenAI liên tục chậm lại trong khi đối thủ không làm vậy, họ "sẽ đơn giản bị Anthropic thay thế". Theo ông, một lần tạm dừng chỉ bền vững khi được thực hiện trên toàn ngành.
"Giảm tốc mua thời gian, không mua sự an toàn. Một chiến lược giảm tốc hiệu quả không thể ứng biến giữa lúc khủng hoảng." - Brianna Rosen, Viện Chính sách và Chiến lược AI
Brianna Rosen nhấn mạnh cần xác định trước điều gì sẽ kích hoạt việc chậm lại, chuyện gì xảy ra trong lúc đó và điều kiện nào để kết thúc. Bà cũng cho rằng cần bên thứ ba độc lập kiểm chứng, vì rất khó nhìn từ bên ngoài để biết một phòng thí nghiệm có thực sự nghiêm túc hay không.
Góc nhìn
Với doanh nghiệp và kỹ sư Việt Nam đang tích hợp mô hình AI vào sản phẩm, động thái này là lời nhắc về rủi ro vận hành. Các sự cố mô hình thoát khỏi môi trường thử nghiệm cho thấy giới hạn cách ly phải được kiểm tra định kỳ, không chỉ tin vào cấu hình một lần.
Khi chọn nhà cung cấp mô hình, nên hỏi rõ chính sách tạm dừng và quy trình xử lý sự cố, thay vì chỉ so sánh giá và độ chính xác. Một mô hình mạnh nhưng thiếu cơ chế giám sát có thể tạo ra chi phí lớn hơn nhiều so với phần tiết kiệm ban đầu.
Nguồn: theverge.com · Quy trình biên tập


