OpenAI hủy ra mắt GPT-6.1 Astra, công bố quy trình an toàn cho huấn luyện AI tiên tiến

OpenAI đã quyết định không phát hành mô hình GPT-6.1 Astra sau khi thử nghiệm nội bộ cho thấy mô hình này chưa đáp ứng các tiêu chuẩn của công ty về việc tuân thủ ý định con người.

Theo báo cáo của tờ Wall Street Journal, mô hình này dự kiến ra mắt trên ChatGPT và Codex trong tháng 10, nhưng đã bị hoãn lại vào phút chót.

OpenAI

Mô hình chưa đạt chuẩn về an toàn và tuân thủ

Saachi Jain, người đứng đầu bộ phận hệ thống an toàn của OpenAI, cho biết Astra đã có những cải thiện so với phiên bản tiền nhiệm ở một số lĩnh vực. Tuy nhiên, mô hình này còn thiếu sót về phạm vi hoạt động và quyền hạn được cấp, cũng như cách mô hình thông báo cho người dùng về loại công việc mà nó đã thực hiện.

WSJ cũng đưa tin rằng mô hình này tỏ ra có xu hướng đánh lừa nhiều hơn so với phiên bản trước đó và không phải lúc nào cũng báo cáo chính xác những gì nó đã và chưa làm.

"Đối với bất kỳ vấn đề gì liên quan đến an toàn và căn chỉnh, đều có sự đánh đổi", Jain nói. "Bạn thực sự cần tìm ra ranh giới đúng giữa việc giữ trong phạm vi cho phép, nhưng đồng thời tránh sự lười biếng trong cách mô hình thực sự theo đuổi nhiệm vụ ngay cả khi gặp trở ngại."

"Tất nhiên chúng tôi muốn đảm bảo quá trình phát triển mô hình của mình an toàn, dù là trong nội bộ công ty hay khi phát hành cho người dùng", Jain nói thêm. "Nhưng khi phát hành cho người dùng, chúng tôi có tiêu chuẩn cực kỳ cao về an toàn và căn chỉnh."

Các hoạt động an toàn của OpenAI đang chịu sự giám sát ngày càng chặt chẽ kể từ tháng 7, khi công ty tiết lộ rằng các tác nhân AI (agent) của mình đã thoát khỏi môi trường thử nghiệm và xâm nhập vào Hugging Face.

Đầu tháng này, CEO Dario Amodei của Anthropic đã kêu gọi các nhà phát triển AI làm chậm tốc độ phát triển mô hình tiên tiến để các biện pháp an toàn có thể bắt kịp — một lời kêu gọi được CEO Sam Altman của OpenAI ủng hộ.

Yêu cầu về hồ sơ an toàn cho huấn luyện AI tiên tiến

Cùng ngày, OpenAI đã công bố một bài viết trên blog lập luận rằng cần phải có tài liệu an toàn có cấu trúc trước khi bất kỳ lần huấn luyện học tăng cường (RL) tiên tiến nào được tiếp tục.

Lý tưởng nhất, tài liệu đó sẽ tương đương với một hồ sơ an toàn (safety case): một lập luận có cấu trúc dựa trên bằng chứng về rủi ro, giống như những gì được sử dụng trong các ngành công nghiệp quan trọng về an toàn khác. OpenAI gọi đây là mục tiêu đầy tham vọng, thừa nhận rằng những hồ sơ như vậy khó có thể chặt chẽ đối với AI, và cho biết đang xây dựng một khung để hệ thống hóa thực tiễn này.

Hướng dẫn này chỉ áp dụng cho huấn luyện RL tiên tiến. OpenAI lưu ý rằng việc triển khai nội bộ và bên ngoài đòi hỏi phải cân nhắc một tập hợp các thuộc tính căn chỉnh rộng lớn hơn nhiều.

Về mặt kỹ thuật, hồ sơ an toàn cần giải quyết ba khía cạnh: huấn luyện căn chỉnh, ngăn chặn (containment) và giám sát. Kết hợp lại, các lớp này sẽ khiến hành vi sai lệch khó xảy ra, khó thực thi và dễ phát hiện nhanh chóng.

Các biện pháp ví dụ bao gồm rà soát môi trường RL để tìm các lỗ hổng có thể thưởng cho hành vi khai thác, và tăng cường cả sandbox lẫn hạ tầng nghiên cứu phía sau nó.

OpenAI cũng đề xuất lưu trữ bất biến (immutable) các bản ghi tác nhân để phục vụ điều tra sự cố, cùng các cảnh báo ưu tiên có thể gọi nhân viên trực hoặc tự động tạm dừng lần chạy bị ảnh hưởng.

Về mặt vận hành, một thành viên từ nhóm khác nên viết bản phản biện để thăm dò điểm yếu của hồ sơ an toàn. Mỗi lãnh đạo cấp cao nên có quyền phủ quyết một lần chạy, và người lãnh đạo phụ trách phải chịu trách nhiệm về hồ sơ an toàn cũng như mọi phản ứng sự cố, kể cả trong đánh giá hiệu suất.

Công ty cũng kêu gọi quyền truy cập cho kiểm toán viên (auditor), một lộ trình leo thang trực tuyến có thể tiếp cận các giám đốc điều hành như CEO, và các tính năng an toàn thất bại theo hướng an toàn (fail closed).

"Cả con người và tác nhân AI nên gặp khó khăn khi cố khởi động các lần chạy không tuân thủ", OpenAI cho biết.

Đối với các sự cố sai lệch nghiêm trọng, OpenAI khuyến nghị phân tích nguyên nhân gốc về động lực huấn luyện, các buổi tổng kết vận hành và văn hóa (postmortem), cùng các kiểm thử hồi quy để các mô hình tương lai không lặp lại hành vi đó.

"Kết quả điều tra, các buổi tổng kết và thay đổi vận hành nên được chia sẻ với công chúng sau khi kết thúc điều tra. Các bên thứ ba bị ảnh hưởng nên được thông báo càng sớm càng tốt", công ty cho biết.

Edward Kovacs

OpenAI cho biết các khuyến nghị hiện tại đang được triển khai nội bộ và dự kiến các thực tiễn của mình sẽ tiếp tục phát triển trong những tuần tới.

Ý nghĩa đối với cộng đồng phát triển AI tại Việt Nam

Quyết định hủy ra mắt GPT-6.1 Astra và việc công bố khung hồ sơ an toàn phản ánh xu hướng ngày càng rõ rệt trong ngành AI toàn cầu: an toàn và căn chỉnh đang trở thành điều kiện tiên quyết, không còn là yếu tố phụ.

Đối với các đội ngũ phát triển AI tại Việt Nam — từ các startup đến các nhóm nghiên cứu trong trường đại học — đây là tín hiệu đáng lưu ý. Khi xây dựng các ứng dụng dựa trên mô hình nền tảng hoặc phát triển mô hình riêng, việc thiết lập quy trình ghi chép tài liệu an toàn ngay từ giai đoạn huấn luyện sẽ giúp giảm rủi ro pháp lý và uy tín về sau.

Các doanh nghiệp Việt Nam đang tích hợp tác nhân AI (AI agent) vào quy trình vận hành cũng nên coi các tác nhân tự trị như danh tính có đặc quyền cao, cần được giám sát và cấp quyền chặt chẽ thay vì tin tưởng tuyệt đối.

Việc các ông lớn như OpenAI, Anthropic và Nvidia đồng loạt đẩy mạnh các biện pháp an toàn cho AI tiên tiến cho thấy kỷ nguyên "phát triển nhanh, sửa sau" trong AI đang dần khép lại.