Nghịch lý của chưng cất khuếch tán: Làm sao để mô hình AI tạo ảnh nhanh hơn mà vẫn giữ chất lượng?

Chưng cất khuếch tán (diffusion distillation) đang trở thành chìa khóa giúp các mô hình AI tạo ảnh chạy nhanh hơn hàng chục lần mà không hy sinh quá nhiều chất lượng đầu ra. Hiểu được nghịch lý này không chỉ giúp các nhà phát triển tối ưu hệ thống, mà còn mở ra hướng đi mới để đưa AI tạo sinh vào các ứng dụng thời gian thực.

Sự thật nằm ở đâu đó giữa hai thái cực: một mô hình khuếch tán cần hàng nghìn bước để tạo ảnh chất lượng cao, nhưng các kỹ thuật chưng cất hiện đại có thể nén toàn bộ quá trình này vào một lần duyệt duy nhất (single forward pass). Bài viết sẽ giải mã cơ chế đằng sau các phương pháp như progressive distillation, consistency models, rectified flow, và phân tích tại sao các kỹ thuật này thách thức quan niệm truyền thống về độ cong của đường cong lấy mẫu.

Hiểu về quá trình lấy mẫu khuếch tán

Mô hình khuếch tán chia việc tạo dữ liệu thành nhiều nhiệm vụ khử nhiễu nhỏ. Mỗi bước lấy mẫu bao gồm hai thao tác: dự đoán hướng di chuyển trong không gian đầu vào để loại bỏ nhiễu, và thực hiện một bước nhảy nhỏ theo hướng đó. Lý do chỉ nên thực hiện bước nhảy nhỏ là vì hướng dự đoán chỉ có ý nghĩa cục bộ — nó trỏ về một vùng có khả năng cao dưới phân phối dữ liệu, không trỏ đến một điểm dữ liệu cụ thể nào.

Đồ thị minh họa các bước di chuyển không đều trong không gian đầu vào

Nếu chúng ta cố gắng thực hiện một bước nhảy lớn, kết quả sẽ rơi vào vùng trung tâm của vùng có khả năng cao, dẫn đến các hình ảnh mờ hoặc đại diện kém cho phân phối dữ liệu. Điều này được giải thích bằng việc nhiễu che khuất thông tin tần số cao, tương ứng với các chi tiết sắc nét mà mắt người rất nhạy cảm. Sự không chắc chắn về các thông tin này tạo ra dự đoán kết hợp mọi khả năng lại với nhau, khiến ảnh mất đi độ chi tiết.

Sơ đồ minh họa độ cong của đường cong lấy mẫu

Vì sao cần nhiều bước lấy mẫu?

Câu trả lời nằm ở độ cong của đường cong trong không gian đầu vào. Mỗi bước lấy mẫu thay đổi hướng dự đoán một chút, vì sự không chắc chắn được giảm dần sau mỗi lần cập nhật. Đường đi qua không gian đầu vào do đó trở thành một đường cong, không phải đường thẳng.

Các thuật toán lấy mẫu ngẫu nhiên (như DDPM) sử dụng nhiễu để sửa lỗi tích lũy qua nhiều bước — giống như tác dụng điều chỉnh của nhiễu trong stochastic gradient descent (SGD). Tuy nhiên, nhiều ứng dụng yêu cầu ánh xạ tất định giữa nhiễu và dữ liệu (ví dụ như khi làm giáo viên cho quá trình chưng cất), nên cần các phương pháp như DDIM hoặc ODE-based. Ngoài ra, có thể sử dụng các phương pháp bậc cao (như Heun's method) để có ước lượng chính xác hơn, hoặc kỹ thuật đa bước mô phỏng momentum trong tối ưu hóa.

Chưng cất khuếch tán: Giải mã nghịch lý

Chưng cất (distillation) trong bối cảnh mạng nơ-ron là quá trình huấn luyện một mạng sinh viên để bắt chước đầu ra của mạng giáo viên. Điểm thú vị là khi áp dụng cho mô hình khuếch tán, sinh viên hội tụ nhanh hơn đáng kể so với giáo viên khi mới huấn luyện từ đầu. Nguyên nhân: mục tiêu huấn luyện từ giáo viên là một ước lượng trung bình có điều kiện, trong khi khi huấn luyện thông thường, mô hình cứ bị kéo về các hướng khác nhau vì mỗi mẫu (\mathbf{x}_0) chỉ là một đại diện ngẫu nhiên trong vùng có khả năng cao.

Phương sai của hàm mất mát khi chưng cất vì thế giảm mạnh so với huấn luyện chuẩn, giúp quá trình học ổn định hơn hẳn. Tất nhiên, đánh đổi là sai lệch (bias) gia tăng do mô hình giáo viên không hoàn hảo.

Các phương pháp chưng cất chính

Chưng cất trực tiếp toàn bộ quá trình lấy mẫu

Phương pháp tiên phong của Luhman & Luhman cố gắng huấn luyện một mạng nhỏ tái tạo đầu ra của toàn bộ cỗ máy lấy mẫu — vốn có thể được xem như một mạng nơ-ron rất sâu với trọng số được chia sẻ. Dùng MSE loss và DDIM để bảo đảm tính tất định, họ đã tạo ra một mô hình duy nhất biến đổi nhiễu thành ảnh ngay trong một lần duyệt. Tuy nhiên, chi phí tạo tập dữ liệu huấn luyện rất tốn kém và sai số tích lũy trong quá trình lấy mẫu tất định làm giảm chất lượng đầu ra.

Progressive distillation — Chưng cất sâu dần

Sơ đồ minh họa quá trình chưng cất tiến bộ qua nhiều bước

Đây là phương pháp lặp từng bước, mỗi vòng giảm một nửa số bước lấy mẫu cần thiết. Bằng cách chưng cất kết quả của hai bước lấy mẫu liên tiếp vào một lần duyệt duy nhất, mô hình sinh viên sẽ "học" cách dự đoán điều mà trước đây cần hai bước để đạt được.

Phương pháp này có ưu điểm vượt trội so với cách tiếp cận trực tiếp:

• Chỉ cần hai bước lấy mẫu mỗi lần huấn luyện, có thể thực hiện trực tiếp mà không cần chuẩn bị offline.
• Có thể tái sử dụng tập dữ liệu gốc, giúp tập trung vào phần không gian input có ý nghĩa.
• Không nhất thiết giảm xuống 1 bước — có thể dừng ở 4 hoặc 8 bước để giữ chất lượng cao hơn.

Một lưu ý quan trọng về tham số hóa: mô hình dự đoán nhiễu (\varepsilon) gây khó khăn ở các mức nhiễu cao vì chênh lệch giữa (\mathbf{x}_t) và dự đoán nhiễu tỷ lệ rất nhỏ, làm khuếch đại sai số. Giải pháp là dùng tham số hóa (\mathbf{x}_0) hoặc dùng mục tiêu dự đoán "velocity" (\mathbf{v} = \alpha_t \varepsilon - \sigma_t \mathbf{x}_0) — một phương pháp ngày càng phổ biến.

Rectified flow: Thay đổi đường đi

Thay vì đối phó với độ cong, rectified flow đi thẳng vào gốc rễ vấn đề: tái tạo lại toàn bộ các đường kết nối giữa nhiễu và dữ liệu để chúng ít cong hơn. Thủ tục "reflow" hoạt động giống như một loại chưng cất nhưng mục tiêu khác — nó thay thế các đường cong cũ bằng một tập đường mới trong đó mỗi cặp (nhiễu, dữ liệu) được nối lại với nhau bằng một đường gần thẳng hơn theo nghĩa optimal transport.

Sơ đồ minh họa sự khác biệt giữa đường cong cũ và mới sau khi áp dụng rectified flow

Việc giảm độ cong giúp tăng hiệu quả chưng cất và giảm sai số khi dùng bước nhảy lớn. Áp dụng lặp có thể làm đường thẳng gần như tuyệt đối, nhưng sai số mô hình hóa ở từng bước có thể tích lũy, nên chỉ cần 1-2 vòng là đủ. Phương pháp này đã được áp dụng thành công cho Stable Diffusion, cho phép tạo ảnh hợp lý chỉ trong một lần duyệt.

Consistency models và TRACT

Nếu có thể nhảy thẳng tới điểm cuối của đường cong — bên phía phân phối dữ liệu — thì độ cong không còn quan trọng nữa. Đó chính là ý tưởng của consistency models: mô hình dự đoán điểm cuối của đường đặc trưng, thay vì hướng tiếp tuyến.

Một tính chất lý thú: dự đoán của consistency model phải nhất quán ở mọi điểm dọc theo đường — không đúng với diffusion model. Sự nhất quán này tạo ra cơ chế tự giám sát, giúp tránh phải chạy toàn bộ quy trình lấy mẫu tốn kém của giáo viên. Hàm tự học bằng trung bình trượt (EMA) đóng vai trò quan trọng trong việc ổn định quá trình huấn luyện.

TRACT (Transitive Closure Time-Distillation) đồng thời xuất hiện như một cải tiến của progressive distillation: thay vì cần nhiều giai đoạn, nó chia toàn bộ khoảng thời gian thành các khoảng nhỏ và dạy mô hình nhảy tới biên trái của mỗi khoảng, giảm thiểu khả năng tích lũy sai số qua từng bước.

BOOT: Chưng cất không cần dữ liệu

Ý tưởng: thay vì dự đoán điểm cuối từ bất kỳ điểm nào trên đường, ta có thể dự đoán bất kỳ điểm nào trên đường từ điểm khởi đầu. Điều này khiến BOOT không cần tập dữ liệu khi chưng cất — chỉ cần lấy mẫu nhiễu. Tuy nhiên, dự đoán trực tiếp (\mathbf{x}_t) rất khó học. Mẹo là chuyển mục tiêu thành ước lượng (\mathbf{x}_0) sạch, sau đó chuyển ngược về bằng công thức đã biết — gọi là "signal-ODE". Kết quả là mô hình học được các đường biểu diễn tín hiệu sạch, dễ nội suy hơn nhiều so với các bản đầy nhiễu.

Score distillation sampling (SDS) và các nhánh mở rộng

Khác hẳn các phương pháp trên, SDS không nhằm giảm số bước lấy mẫu mà tối ưu hóa các đại diện tham số hóa của hình ảnh, như NeRF trong text-to-3D (DreamFusion). Phát hiện quan trọng: loại bỏ Jacobian của mô hình khuếch tán khỏi gradient tính toán giúp việc tối ưu hoạt động tốt hơn hẳn. Gradient sửa đổi này tương đương với hàm mất mát trong probability density distillation và giải thích hành vi tìm kiếm mode, dẫn đến nhu cầu dùng guidance scale cao và các regularization bổ sung. Các biến thể như Noise-Free Score Distillation hay Variational Score Distillation (VSD) tiếp tục cải thiện chất lượng và loại bỏ một số nhược điểm.

Diff-Instruct và Distribution Matching Distillation (DMD) áp dụng các ý tưởng tương tự VSD để chưng cất toàn bộ mô hình khuếch tán thành một mạng feed-forward duy nhất, có hơi hướng GAN nhưng đối tượng không thực sự đối kháng.

Điều gì về "không có bữa trưa miễn phí"?

Có một câu hỏi tự nhiên: liệu chưng cất có thực sự tạo ra chất lượng tốt hơn so với việc tăng số bước lấy mẫu của chính mô hình giáo viên? Câu trả lời thường là có, vì chưng cất chuyển sai số lấy mẫu thành sai số mô hình hóa, và qua đó có thể khai thác các đặc tính thống kê của phân phối để tạo ra dự đoán tốt hơn.

Tuy nhiên, chưng cất không phải là thuốc chữa bách bệnh. Vấn đề giữa thiên kiến và phương sai luôn hiện hữu: mô hình giáo viên không hoàn hảo vẫn có thể dạy cho sinh viên những sai lệch của mình. Ngoài ra, các kỹ thuật như EMA và perceptural loss có thể giúp ổn định quá trình nhưng không loại bỏ hoàn toàn sai số tích lũy qua nhiều vòng.

Bản đồ giữa nhiễu và dữ liệu: Sự lựa chọn đa dạng tới mức khó tin

Thế giới các phương pháp chưng cất khuếch tán thực sự giống một mê cung: Bạn muốn giảm số bước lấy mẫu? Hãy chọn progressive distillation, consistency distillation hoặc BOOT. Muốn thay đổi cả hình dạng đường đi trong không gian đầu vào? Rectified flow là ứng viên sáng giá. Muốn tối ưu các đại diện không phải dạng lưới pixel? SDS và các biến thể chính là chìa khóa.

Sự đa dạng này phản ánh một thực tế quan trọng: không có một phương pháp nào tối ưu cho mọi tình huống. Mỗi kỹ thuật đánh đổi giữa chi phí tính toán, chất lượng đầu ra, độ phức tạp triển khai và khả năng áp dụng trong các lĩnh vực cụ thể. Hiểu được bản chất của các đường cong, cách các mô hình học cách di chuyển trong không gian đầu vào, chính là nền tảng để thiết kế các thế hệ mô hình AI tạo ảnh nhanh hơn, nhẹ hơn và thông minh hơn.

Kết luận và góc nhìn cho tương lai

Chưng cất khuếch tán không chỉ là bài toán kỹ thuật khô khan, mà còn mở ra cánh cửa để đưa AI tạo sinh vào các thiết bị biên, nơi tài nguyên tính toán bị giới hạn — điều vô cùng quan trọng trong bối cảnh Việt Nam đang đẩy mạnh ứng dụng AI vào sản xuất và dịch vụ.

Tương lai có thể sẽ chứng kiến nhiều sáng tạo hơn nữa khi các nhà nghiên cứu vượt qua ranh giới giữa các phương pháp hiện có. Liệu sự kết hợp giữa consistency learning và rectified flow, hoặc các kiến trúc mới như neural operators, có tạo nên bước đột phá tiếp theo? Chỉ có thời gian và thực nghiệm mới trả lời được. Nhưng điều chắc chắn là: chưng cất khuếch tán đã và đang thay đổi căn bản cách chúng ta xây dựng và triển khai các mô hình tạo sinh — đưa từ phòng thí nghiệm xuống các sản phẩm thực tế mà người dùng Việt Nam có thể trải nghiệm hàng ngày.