Kỹ thuật suy luận mới của OpenAI gây lo ngại cho các chuyên gia an toàn AI

OpenAI vừa hé lộ một kỹ thuật suy luận mới mang tên "recurrent depth" (độ sâu lặp) sẽ được áp dụng trên mô hình Astra sắp ra mắt. Theo báo cáo từ The Information, kỹ thuật này cho phép mô hình xử lý vấn đề theo cách không tuần tự — khác biệt hoàn toàn so với phương pháp suy luận từng bước mà hầu hết các mô hình lý luận hiện đại đang sử dụng. Tuy nhiên, chính sự khác biệt này lại đang khiến các chuyên gia an toàn AI vô cùng lo lắng.

Vấn đề nằm ở khả năng giám sát

Thông thường, một mô hình suy luận sẽ tạo ra "chuỗi suy nghĩ" (chain of thought) — một bản ghi tuần tự các bước mà mô hình thực hiện khi giải quyết vấn đề. Dù bản ghi này không hoàn hảo, nó vẫn đóng vai trò quan trọng trong việc theo dõi hành vi sai lệch hoặc mất kiểm soát của mô hình.

Với kỹ thuật opaque recurrence, mô hình xử lý cùng một truy vấn nhiều lần trong một vòng lặp, tạo ra ít dấu vết có thể đọc được hơn — gần như "né" được việc ghi lại chuỗi suy nghĩ truyền thống. Điều này đồng nghĩa với việc các nhà nghiên cứu sẽ khó khăn hơn trong việc theo dõi quá trình ra quyết định của AI.

Buck Shlegeris, CEO của Redwood Research, bày tỏ quan ngại thẳng thắn: "Tôi vô cùng lo lắng trước thông tin Astra sử dụng opaque recurrence. Tôi không biết liệu Astra có giảm khả năng giám sát chuỗi suy nghĩ so với các mô hình trước hay không. Nhưng nếu OpenAI đẩy kỹ thuật này đi xa hơn, họ sẽ có lựa chọn tăng cường recurrence lên mức khổng lồ và phá hủy hoàn toàn khả năng giám sát chuỗi suy nghĩ."

Lời kêu gọi từ cộng đồng an toàn AI

Zvi Mowshowitz, một nhà hoạt động lâu năm trong lĩnh vực an toàn AI, còn kêu gọi cần có luật pháp để ngăn chặn "cuộc đua xuống đáy" giữa các phòng lab AI. Ông nhấn mạnh: "Kỹ thuật này đang chơi với lửa, mạo hiểm với một điều cấm kỵ mà OpenAI và Anthropic đã nỗ lực thiết lập — đó là duy trì tính trung thực và khả năng giám sát của chuỗi suy nghĩ càng lâu càng tốt. Việc sử dụng kỹ thuật này một cách sâu rộng hơn có thể sẽ gây tổn hại đến khả năng giám sát."

Một điểm đáng chú ý: trong sự cố gần đây liên quan đến hành vi bất thường của một tác nhân AI tự trị (rogue agent) của OpenAI, chính các bản ghi chuỗi suy nghĩ đã là công cụ quan trọng giúp các nhà nghiên cứu tìm hiểu nguyên nhân. Nếu kỹ thuật mới này được áp dụng rộng rãi, những cuộc điều tra tương tự sẽ trở nên khó khăn hơn rất nhiều.

Phản hồi từ OpenAI

Tuy nhiên, cần lưu ý rằng việc sử dụng kỹ thuật này trong Astra hiện vẫn bị giới hạn. Chuỗi suy nghĩ của mô hình vẫn được kỳ vọng sẽ minh bạch, và OpenAI đã bác bỏ mọi gợi ý rằng họ sẽ chuyển sang "neuralese" — ngôn ngữ nội bộ khó hiểu của mạng nơ-ron.

Jakub Pachocki, nhà khoa học trưởng của OpenAI, viết trên X: "OpenAI đã nỗ lực bảo tồn và sử dụng hệ thống giám sát chuỗi suy nghĩ kể từ những mô hình suy luận đầu tiên. Đây là mục tiêu cốt lõi của chương trình nghiên cứu hiện tại của chúng tôi." Công ty cũng đã công bố kế hoạch triển khai các hệ thống giám sát chuỗi suy nghĩ toàn diện trong các kế hoạch an toàn dài hạn.

Mối lo lan rộng

Bất chấp những lời trấn an, mối quan ngại vẫn chưa dừng lại. Theo báo cáo tiếp theo của The Information vào sáng thứ Tư, cả Anthropic và Google DeepMind đều đã bắt đầu thảo luận về kỹ thuật này. Điều này cho thấy opaque recurrence có thể sẽ trở thành xu hướng chung của toàn ngành.

Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, cảnh báo về một viễn cảnh đáng lo ngại: "Mối quan tâm lớn nhất của tôi là từ đây, một sự phát triển tự nhiên sẽ liên quan đến việc mở rộng quy mô suy luận không minh bạch đến mức mô hình suy luận hoàn toàn hoặc gần như hoàn toàn trong không gian tiềm ẩn (latent space). Tôi hy vọng vẫn chưa quá muộn để tránh những kiến trúc đáng lo ngại nhất và rằng OpenAI sẽ dừng lại tại đây."

Tác động đến người dùng Việt Nam

Đối với cộng đồng AI tại Việt Nam, nơi ChatGPT và các mô hình suy luận đang được sử dụng ngày càng phổ biến trong giáo dục, lập trình và nghiên cứu, diễn biến này là một lời nhắc nhở quan trọng: việc phát triển AI không chỉ xoay quanh hiệu suất và khả năng, mà còn là bài toán về độ tin cậy và khả năng kiểm soát. Khi các mô hình trở nên thông minh hơn nhưng đồng thời khó hiểu hơn, người dùng — từ lập trình viên đến người dùng phổ thông — sẽ cần thận trọng hơn khi đặt niềm tin vào các quyết định do AI đưa ra, đặc biệt trong các lĩnh vực nhạy cảm như tài chính, y tế hay pháp lý.