Mô hình Khuếch tán Ngôn ngữ Liên tục (CDLM): Sự trở lại ngoạn mục của một phương pháp tưởng chừng đã 'tuyệt chủng'

Sau vài năm im ắng, một loạt nghiên cứu mới về mô hình khuếch tán liên tục cho ngôn ngữ đã xuất hiện, báo hiệu sự trở lại ngoạn mục của phương pháp này. Trong khi các phương pháp khuếch tán rời rạc từng thống trị lĩnh vực này, thì nay các nhà nghiên cứu đang tìm lại những ưu điểm vượt trội của cách tiếp cận liên tục, đặc biệt là về khả năng chưng cất số bước lấy mẫu và xử lý sự bất định ở cấp độ token. Bài viết này sẽ đào sâu vào lịch sử, các thành phần kỹ thuật và lý do vì sao CDLM đang trỗi dậy.

Thách thức sự thống trị của mô hình tự hồi quy

Hầu hết các mô hình ngôn ngữ hiện đại đều hoạt động theo cơ chế tự hồi quy (autoregressive): chúng tạo ra chuỗi văn bản từng token một. Đây là cách tiếp cận tự nhiên, cho phép huấn luyện song song hiệu quả nhờ kỹ thuật teacher forcing. Tuy nhiên, các mô hình khuếch tán lại đưa ra một hướng đi khác: thay vì tạo từng phần tử, chúng đảo ngược một quá trình làm hỏng dữ liệu (corruption process) — thêm nhiễu Gaussian dần dần cho đến khi tín hiệu ban đầu bị che lấp hoàn toàn.

Giai đoạn 2021-2022: Những nỗ lực ban đầu

Năm 2021 chứng kiến sự ra đời của các mô hình khuếch tán rời rạc đầu tiên như multinomial diffusion, D3PM và SUNDAE. Ngay sau đó, năm 2022, các nhà nghiên cứu bắt đầu khám phá việc áp dụng khuếch tán liên tục vào dữ liệu rời rạc. Diffusion-LM là một trong những công trình tiên phong, sử dụng các vector embedding liên tục để biểu diễn các token rời rạc, từ đó có thể áp dụng cơ chế nhiễu Gaussian quen thuộc.

Sự hấp dẫn của các phương pháp liên tục nằm ở chỗ chúng có thể tận dụng toàn bộ hệ sinh thái công cụ và kỹ thuật mạnh mẽ đã được phát triển cho khuếch tán liên tục trong lĩnh vực âm thanh và hình ảnh.

Sự 'tuyệt chủng' vào cuối 2023

Sau năm 2023, gần như toàn bộ nghiên cứu chuyển sang các phương pháp khuếch tán rời rạc. Nguyên nhân có thể đến từ "khoảnh khắc ChatGPT", khiến trọng tâm chuyển từ sự thanh lịch lý thuyết sang hiệu suất thực tế. Thêm vào đó, nghiên cứu của Gulrajani & Hashimoto cho thấy hiệu quả huấn luyện của CDLM kém hơn 64 lần so với mô hình tự hồi quy — một con số khó chấp nhận trong bối cảnh cộng đồng đang tập trung vào tối ưu chi phí huấn luyện.

Các thành phần kỹ thuật cốt lõi của CDLM

Để hiểu vì sao CDLM quay trở lại, chúng ta cần nắm rõ bốn thành phần chính:

Chiến lược nhúng (Embedding Strategies) 📍

• Embedding rõ ràng (như one-hot): đơn giản nhưng kém hiệu quả với bộ từ vựng lớn
• Embedding tiền huấn luyện (từ BERT, mô hình tự hồi quy): tận dụng biểu diễn giàu ngữ nghĩa
• Embedding học chung với bộ khử nhiễu: tự nhiên nhưng dễ gặp vấn đề suy sụp hoặc tăng trưởng không kiểm soát

Hình học của không gian embedding đóng vai trò quan trọng. Lý tưởng nhất là các token có ngữ nghĩa tương đồng nên nằm gần nhau, để mức độ nhiễu tác động tạo ra sự nhầm lẫn hợp lý giữa các token liên quan.

Hàm mất mát 📉

• MSE loss cho dự đoán trực tiếp trong không gian embedding liên tục
• Cross-entropy loss cho dự đoán phân phối xác suất trên toàn bộ từ vựng — gần gũi hơn với mô hình tự hồi quy
• Maximum likelihood với chặn dưới như trong VAE

Lịch trình nhiễu 📻

Việc chọn lịch trình nhiễu cho CDLM đặc biệt quan trọng vì embedding thường là vector nhiều chiều. Hầu hết mức nhiễu đều hoặc quá thấp (không phá hủy thông tin) hoặc quá cao (phá hủy hoàn toàn). Các nghiên cứu gần đây sử dụng lịch trình thích ứng để tuyến tính hóa entropy của dự đoán — đảm bảo mỗi bước lấy mẫu giải quyết một lượng thông tin tương đương.

Tự điều kiện hóa (Self-conditioning) 🔄

Đây là chìa khóa hiệu suất quan trọng nhất. Thay vì mỗi bước khử nhiễu tính toán từ đầu, mô hình sẽ nhận thêm dự đoán từ bước trước làm đầu vào. Kỹ thuật này mang lại cải thiện hiệu suất khổng lồ, gần như trở thành tiêu chuẩn bắt buộc trong mọi nghiên cứu CDLM.

Minh họa về self-conditioning

Hình minh họa về self-conditioning, cho phép bộ khử nhiễu tận dụng dự đoán trước đó.

Sự trở lại ngoạn mục: 2025-2026

2025: Kết hợp rời rạc và liên tục

Các nghiên cứu như CADD, CCDD, và CANDI bắt đầu kết hợp cả hai cách tiếp cận. Đặc biệt, CANDI chỉ ra vấn đề "temporal dissonance" — với bộ từ vựng lớn, danh tính token bị hỏng rất nhanh nhưng thứ hạng tương đối thì suy giảm chậm hơn nhiều, khiến việc học gần như bất khả thi.

2026: Bùng nổ nghiên cứu

Năm 2026 chứng kiến sự xuất hiện của hàng loạt công trình quan trọng:

• Categorical Flow Maps, Flow Map Language Models, Discrete Flow Maps: mở rộng khái niệm flow maps sang dữ liệu rời rạc
• LangFlow, Spherical flows, Hyperspherical flows: ứng dụng lịch trình nhiễu thích ứng và embedding chuẩn hóa
• LDLM và ELF: sử dụng embedding ngữ cảnh, học chung hoặc đóng băng
• CoBit: mở rộng cách tiếp cận Analog Bits cho ngôn ngữ
• RePlaid: hiện đại hóa phương pháp dựa trên likelihood của Plaid

Các tựa đề nghiên cứu đã thể hiện tham vọng rõ ràng: "Continuous Diffusion Scales Competitively with Discrete Diffusion for Language" (RePlaid), "Continuous Diffusion Rivals Discrete in Language Modeling" (LangFlow).

Vì sao CDLM thắng thế trở lại?

Có ba lý do chính:

1. Đơn giản hóa khái niệm

Các giải thích hiện đại dựa trên nội suy tuyến tính giữa dữ liệu và nhiễu, thay vì các khái niệm phức tạp như score matching hay phương trình vi phân. Điều này hạ thấp rào cản gia nhập cho các nhà nghiên cứu từ lĩnh vực khác.

2. Ưu thế chưng cất (Distillability)

Đây có lẽ là lý do quan trọng nhất. Các phương pháp rời rạc gặp bức tường khi giảm số bước lấy mẫu: các token được lấy mẫu đồng thời phải giả định độc lập có điều kiện, và trong giới hạn một bước, không thể nắm bắt được mối tương quan giữa chúng. CDLM hoàn toàn né được vấn đề này — các phương pháp dựa trên quỹ đạo như flow maps cho phép cả mô hình một bước nắm bắt mọi tương quan.

Minh họa về sự khác biệt giữa các phương pháp

Sơ đồ so sánh cơ chế hoạt động giữa mô hình tự hồi quy, khuếch tán rời rạc và khuếch tán liên tục.

3. Nhu cầu kinh tế

Khi LLM trở thành ngành kinh doanh lớn, việc tạo ra mô hình nhanh hơn, linh hoạt hơn mang lại giá trị kinh tế khổng lồ. Khả năng chưng cất mạnh mẽ của CDLM giúp giảm chi phí suy luận đáng kể.

Câu hỏi về tính đa phương thức

Một lập luận phổ biến ủng hộ CDLM là khả năng tích hợp đa phương thức dễ dàng hơn. Tuy nhiên, tác giả Sander Dieleman cho rằng thách thức thực sự không nằm ở việc kết nối các mô hình khác nhau, mà là khoảng cách ngữ nghĩa giữa token ngôn ngữ trừu tượng và biểu diễn tín hiệu giác quan ở mức thấp.

Trong bối cảnh đa phương thức, ngay cả sự phân chia rời rạc/liên tục cũng là một sự phân tâm. Thách thức thực sự là kết nối khoảng cách ngữ nghĩa giữa các token ngôn ngữ vốn ở mức cao và các biểu diễn rất thấp mà chúng ta thường dùng cho tín hiệu giác quan.

Tương lai của khuếch tán rời rạc

Liệu CDLM có khiến phương pháp rời rạc trở nên lỗi thời? Câu trả lời là khó xảy ra. Sự ra mắt của DiffusionGemma (Google DeepMind) và Nemotron Diffusion (NVIDIA) cho thấy DDLM vẫn đang phát triển mạnh. Các phương pháp chưng cất cho mô hình rời rạc như D-MMD và IDLM cũng đang được nghiên cứu tích cực.

Điều quan trọng là các mô hình khuếch tán không nhất thiết phải thay thế hoàn toàn mô hình tự hồi quy. Chúng có thể tồn tại song song, thậm chí kết hợp trong cùng một hệ thống — ví dụ dùng khuếch tán cho các đoạn văn bản dài và tự hồi quy cho các phần cần độ chính xác cao. Tương lai của lĩnh vực này hứa hẹn sẽ còn nhiều biến động thú vị.