Chứng minh và cải thiện Giả thuyết Biểu diễn Platonic bằng JEPA

Một trong những câu hỏi nền tảng của trí tuệ nhân tạo là liệu các mô hình huấn luyện trên những phương thức dữ liệu khác nhau có hội tụ về cùng một cách biểu diễn thế giới hay không. Nghiên cứu mới của Randall Balestriero và Yann LeCun (Đại học New York và Meta AI) đã biến giả thuyết này từ một phỏng đoán thành định lý có thể chứng minh, đồng thời chỉ ra cách xây dựng biểu diễn phổ quát hiệu quả hơn nhiều so với cách tiếp cận hiện nay.

Từ giả thuyết đến định lý

Giả thuyết Biểu diễn Platonic (PRH) từ lâu cho rằng khi quy mô mô hình tăng lên, các hệ thống huấn luyện trên văn bản, hình ảnh hay âm thanh sẽ dần hội tụ về một biểu diễn chung về thực tại. Tuy nhiên, do thiếu chứng minh, giả thuyết này không đưa ra được bất kỳ bảo đảm hay công thức cụ thể nào.

Nhóm tác giả đã xây dựng Định lý Biểu diễn Platonic, chứng minh rằng các Kiến trúc Dự đoán Nhúng Liên hợp (JEPA) được huấn luyện riêng rẽ trên bất kỳ số lượng phương thức nào cũng sẽ học được cùng một biểu diễn, sai khác chỉ ở một phép quay, miễn là các cặp dương của chúng là hai quan sát của cùng một cảnh — gọi là "góc nhìn tốt" (good views).

Dự đoán token kế tiếp: con đường kém hiệu quả

Một phát hiện quan trọng là dự đoán token kế tiếp — cơ chế cốt lõi của các mô hình ngôn ngữ lớn như GPT — thực chất chỉ là một dạng JEPA với "góc nhìn xấu" (bad views), khi các phần của cùng một văn bản bị xem như những mảnh rời rạc. Điều này giải thích vì sao mô hình ngôn ngữ chỉ tương thích với thị giác thông qua việc tăng quy mô, chứ không phải nhờ bản chất của dữ liệu.

"Góc nhìn tốt, chứ không phải quy mô đơn thuần, mới là đòn bẩy để xây dựng biểu diễn Platonic."

Kiểm chứng thực nghiệm ấn tượng

Nhóm nghiên cứu đã kiểm chứng lý thuyết trên quy mô lớn, từ 145.000 chú thích cho đến văn bản của 940 triệu hình ảnh web, và phát hiện một quy luật tỉ lệ về mức độ căn chỉnh có thể dự đoán các lần chạy chưa từng thấy trong sai số nhiễu ngẫu nhiên.

Các con số nổi bật bao gồm:

• Góc nhìn tốt cần ít hơn 42 lần số mẫu huấn luyện so với dự đoán token kế tiếp trên cùng tập dữ liệu để đạt mức căn chỉnh tương đương
• Một JEPA văn bản chỉ 109 triệu tham số căn chỉnh với bộ mã hóa hình ảnh của DINOv2 và CLIP tốt hơn mọi mô hình ngôn ngữ được đánh giá, kể cả những mô hình lên tới 72 tỷ tham số
• Mô hình này còn vượt cả bộ mã hóa văn bản của CLIP

Ứng dụng thực tiễn

Nhóm tác giả còn trình diễn một ứng dụng đáng chú ý: chỉ với một phép quay, các bộ mã hóa được huấn luyện riêng rẽ có thể trở thành một hệ thống tạo chú thích hình ảnh, đạt điểm CIDEr 0,838 trên bộ dữ liệu COCO.

Thậm chí phép quay này cũng không cần cặp dữ liệu. Trên bộ đánh giá không cặp mới nhất, JEPA văn bản của nhóm vượt qua mọi kết quả độ chính xác zero-shot được báo cáo với các mô hình ngôn ngữ lên tới 8 tỷ tham số, ví dụ đạt 64% so với tối đa 56% top-5 trên ImageNet-100.

Ý nghĩa đối với ngành AI

Kết quả này mang ý nghĩa sâu rộng đối với cộng đồng nghiên cứu và phát triển AI, đặc biệt tại Việt Nam khi các nhóm đang tìm cách xây dựng mô hình hiệu quả với nguồn lực hạn chế. Thay vì chạy đua tăng quy mô mô hình và dữ liệu, hướng đi mới cho thấy chất lượng của cách định nghĩa cặp dương — tức cách tổ chức dữ liệu huấn luyện — mới là yếu tố quyết định.

Nghiên cứu cũng đặt nền móng lý thuyết vững chắc cho kiến trúc JEPA mà chính Yann LeCun đã nhiều năm thúc đẩy như một hướng thay thế cho mô hình ngôn ngữ tự hồi quy. Với các nhà phát triển ứng dụng AI tại Việt Nam, đây là tín hiệu cho thấy việc tối ưu dữ liệu và kiến trúc có thể mang lại lợi thế lớn hơn nhiều so với việc chỉ tăng số lượng tham số.