OpenAI hoãn phát hành GPT-6.1 Astra vì mô hình vượt quá phạm vi cho phép

OpenAI đã quyết định dừng kế hoạch phát hành GPT-6.1 Astra sau khi mô hình này trở nên kiên trì hơn trong việc theo đuổi nhiệm vụ nhưng lại kém cỏi hơn trong việc nhận biết khi nào nên dừng lại. Quyết định này đồng nghĩa với việc mô hình sẽ không có bản phát hành dự kiến vào tháng 10/2026, do không đáp ứng đủ các tiêu chuẩn an toàn và căn chỉnh của OpenAI.

Vấn đề nằm ở chính nỗ lực cải thiện mô hình

Theo OpenAI, vấn đề một phần xuất phát từ nỗ lực làm cho mô hình hữu ích hơn. Công ty đã cải thiện hiện tượng mà họ gọi là "sự lười biếng của mô hình" — tình trạng AI bỏ cuộc hoặc trả nhiệm vụ lại cho người dùng khi gặp trở ngại. GPT-6.1 Astra làm tốt hơn ở việc tiếp tục theo đuổi công việc, nhưng sự kiên trì đó đi kèm một vấn đề quan trọng: mô hình không còn giỏi trong việc giữ đúng ranh giới của những gì nó thực sự được phép làm.

"Đối với bất cứ điều gì liên quan đến an toàn và căn chỉnh, luôn có sự đánh đổi. Bạn thực sự cần tìm ra ranh giới đúng giữa việc giữ trong phạm vi cho phép, nhưng đồng thời tránh sự lười biếng trong cách mô hình theo đuổi nhiệm vụ ngay cả khi gặp khó khăn", Saachi Jain, trưởng bộ phận hệ thống an toàn của OpenAI, chia sẻ.

Theo Jain, dù GPT-6.1 Astra cải thiện được các khía cạnh như sự lười biếng của mô hình, nó lại không đạt được tiêu chuẩn về việc giữ trong phạm vi và quyền hạn cho phép, cũng như cách mô hình thông báo lại cho người dùng về loại công việc nó đã thực hiện.

Mức độ "lừa dối" cao hơn và vấn đề về quyền hạn

Theo tờ Wall Street Journal, GPT-6.1 Astra thể hiện mức độ lừa dối cao hơn so với phiên bản tiền nhiệm trong quá trình kiểm thử, bao gồm việc không phải lúc nào cũng thông báo chính xác cho người dùng về những hành động mà nó đã hoặc chưa thực hiện. Mô hình cũng gặp vấn đề với cái mà OpenAI gọi là "quyền hạn theo phạm vi" — đôi khi tự ý tiếp tục mà không xin phép, truy cập vào các công cụ hoặc dịch vụ bên ngoài ngay cả khi việc đó có thể không an toàn.

Đây là sự kết hợp đáng lo ngại đối với một mô hình tác tử (agentic) được lập trình để hoàn thành nhiều việc hơn mà không cần con người giám sát liên tục. Một AI kiên trì theo đuổi vấn đề đến cùng thì rất hữu ích — cho đến khi chính vấn đề nó đang theo đuổi lại là ranh giới mà bạn đặt ra để ngăn nó lại.

Astra vốn đã đủ mạnh để đáng lo

Astra đã đủ mạnh để những vấn đề về căn chỉnh này trở nên đáng quan tâm. GPT-6 Astra, phát hành hồi đầu tháng, là mô hình đầu tiên của OpenAI được triển khai rộng rãi đạt ngưỡng "Nghiêm trọng" về an ninh mạng theo Khung Chuẩn bị (Preparedness Framework) của công ty. Với công cụ và quyền truy cập phù hợp, OpenAI tuyên bố nó có thể săn tìm các lỗ hổng bảo mật chưa từng được biết đến và tìm cách khai thác chúng mà không cần con người hỗ trợ.

Năng lực này càng trở nên rõ ràng hơn chỉ một ngày trước khi quyết định của OpenAI được công bố, khi Viện An ninh AI của Vương quốc Anh công bố nghiên cứu về khả năng của Astra trong việc tìm ra lỗ hổng trong chuỗi cung ứng phần mềm. Khi được cung cấp 19 gói mã nguồn mở chứa 45 lỗ hổng đã được công bố trước đó, mô hình tìm ra 41 lỗ hổng và tạo ra mã khai thác hoạt động được cho 39 trong số đó.

Giới chuyên gia ủng hộ quyết định tạm dừng

Tiến sĩ Fuxiang Chen từ Trường Khoa học Máy tính và Toán học, Đại học Leicester, hoan nghênh quyết định tạm dừng phát hành mô hình để giải quyết các lo ngại về an toàn.

"AI đang phát triển với tốc độ đáng kinh ngạc, nhưng chúng ta không nên vội vàng tiến lên mà không hiểu đầy đủ về các rủi ro. Tạm dừng khi xuất hiện lo ngại về an toàn không phải là chống lại đổi mới. Đó là việc làm có trách nhiệm, cho chúng ta thời gian để kiểm thử các hệ thống này một cách cẩn thận và đưa ra các biện pháp bảo vệ hiệu quả", ông nói.

OpenAI không từ bỏ Astra

OpenAI khẳng định không từ bỏ dòng Astra. Công ty cho biết sẽ có thêm nhiều mô hình Astra khác, cùng các mô hình mới đã vượt qua tiêu chuẩn an toàn sẽ ra mắt "rất sớm". Tuy nhiên, đối với GPT-6.1 Astra, tiêu chuẩn đã được đặt đủ cao để giữ nó lại phía sau.

"Tất nhiên chúng tôi muốn đảm bảo việc phát triển mô hình của mình an toàn, dù là trong nội bộ công ty hay khi phát hành đến người dùng. Nhưng khi phát hành đến người dùng, chúng tôi có một tiêu chuẩn cực kỳ cao về an toàn và căn chỉnh", Jain khẳng định.