Nén mô hình video khuếch tán 31B xuống 14B chỉ với 6 bước

Video Rebirth vừa công bố HyperFlow H3 Flash, phiên bản nén và rút gọn số bước lấy mẫu của mô hình MiniMax-H3. Điểm đáng chú ý: mô hình tạo video kèm âm thanh stereo 32 kHz đồng bộ chỉ với 6 bước lấy mẫu (mặc định), không cần classifier-free guidance (CFG) — kỹ thuật vốn tốn gấp đôi chi phí tính toán mỗi bước.

Kích thước mô hình giảm mạnh: bộ transformer chỉ còn 13,7B tham số (fl2va) hoặc 13,9B (ref2va), chưa bằng một nửa so với khoảng 31B của MiniMax-H3 gốc. Đầu ra mặc định là clip dài 5,2–15 giây ở 24 fps, độ phân giải 1344×768.

Cách nén hoạt động

HyperFlow H3 Flash thay đổi transformer của MiniMax-H3 theo ba hướng chính:

• Tỉa cấu trúc và phân rã hạng thấp (low-rank factorization): bản fl2va bỏ 3 trong 50 block (block 6, 21, 22) và thay 102 lớp tuyến tính bằng dạng phân rã hạng thấp; bản ref2va bỏ 1 block (block 9) và thay 114 lớp.
• Lượng tử hóa INT8 W8A8 có xoay (convrot): 180 lớp tuyến tính được lượng tử hóa sang INT8 nằm sau một phép xoay Hadamard dạng block-diagonal.
• Điều kiện hai thời điểm (t, r): mỗi token nhận cả mức nhiễu hiện tại t lẫn điểm cuối bước r, nhờ đó có thể lấy mẫu 4–8 bước mà không cần CFG.

Hiệu năng và yêu cầu phần cứng

Với clip 5,2 giây ở 6 bước, thời gian sinh là 8,7 giây trên 4× B200, 36 giây trên 1× H200 và 92 giây trên 1× RTX 5090. NVIDIA SOL-H3 — đối tác tăng tốc suy luận của Video Rebirth — chạy mô hình theo thời gian thực trên 4 GPU dòng B.

Về dung lượng, bản Q4_K_M chỉ 9,1 GB (Q8_0 là 14,9 GB), chạy được trên GPU 24 GB và 32 GB trong máy có 16 GB RAM hệ thống. Nhóm phát triển cho biết chưa đo thử trên GPU 16 GB.

Quy tắc chọn môi trường chạy mà nhóm đưa ra:

• Dùng GGUF trên máy có từ 64 GB RAM trở xuống.
• Dùng INT8 convrot trên GPU data center, hoặc GPU RTX từ 24 GB trở lên với ít nhất 69 GiB RAM hệ thống.

Hạng mục	GGUF	INT8 convrot
Độ chính xác & dung lượng	Q3_K_M đến Q8_0 (7,2–15,2 GB)	W8A8 INT8 + hạng thấp (~16 GB)
GPU mục tiêu	RTX phổ thông (24 GB, 32 GB)	H100 / H200 / B200 / B300, hoặc RTX 24 GB+
RAM hệ thống	16 GB+	~16 GiB không offload; ≥ 69 GiB (text encoder fp8) khi offload

Trên GPU phổ thông, bộ transformer INT8 nhanh hơn 10–20%, trong khi GGUF cần chưa bằng một nửa RAM hệ thống. Transformer chiếm hơn 80% thời gian và bị giới hạn bởi năng lực tính toán.

Ba tác vụ chính

• t2va: sinh từ câu lệnh văn bản.
• fl2va: nhận câu lệnh kèm khung hình đầu, hoặc cả khung đầu và khung cuối.
• ref2va: nhận câu lệnh kèm tối đa 12 tham chiếu — bản Python INT8 hỗ trợ ảnh, video (kèm nhạc nền) và âm thanh; bản GGUF hiện chỉ hỗ trợ ảnh.

Mỗi tham chiếu bổ sung token cho mọi bước, và chi phí attention tăng theo bình phương số token. Vì vậy với ref2va, transformer INT8 mất gấp 2,6–2,9 lần thời gian so với t2va khi dùng hai ảnh, và 5,2–5,8 lần với bộ tham chiếu hỗn hợp.

Cách cài đặt và sử dụng

Có ba hướng tiếp cận:

ComfyUI: clone ComfyUI-GGUF và ComfyUI-HyperFlow-Flash vào thư mục custom_nodes/, tải text encoder qwen3vl_32b_minimax_h3_nvfp4_awq (15,7 GB), rồi khởi chạy với --fast-disk trên máy 16 GB hoặc 32 GB RAM. Các mẫu workflow gồm hyperflow_t2v, hyperflow_i2v, hyperflow_flf2v và hyperflow_ref2v.

Python package (INT8): cài đặt qua pip, yêu cầu Python 3.10+, PyTorch 2.6+ với CUDA và Triton, GPU NVIDIA Ampere trở lên, diffusers ≥ 0.40. Lần chạy đầu tải về khoảng 90 GB (hoặc 68 GB nếu dùng text encoder fp8); transformer gốc 62 GB không bao giờ bị tải xuống. Gói có sẵn extra [hopper] cho FlashAttention-3 và [fp8] cho text encoder fp8.

hyperflow-h3-flash --prompt "A chef slides a steaming bowl of ramen across a wooden counter; rain taps on the window." \
  --output ramen.mp4

Các tham số đáng chú ý: --steps (4/6/8), --num-frames (124–362), --gpus (1, 2, 4, 7, 8, auto), --offload (auto/none/model/stream) và --block-chunk 16384 để giới hạn VRAM khi chạy clip 15 giây ref2va hỗn hợp trên GPU 24 GB. Chế độ stream chỉ chậm hơn none khoảng 2% trên cùng GPU.

stable-diffusion.cpp: áp dụng patch hyperflow-two-time.patch lên commit upstream 3be2378 để thêm bộ nhúng hai thời điểm, các lớp tuyến tính hạng thấp và lịch 6 bước mặc định từ metadata GGUF.

Góc nhìn

Điểm đáng để ý với đội ngũ kỹ thuật ở Việt Nam không nằm ở con số benchmark trên H200 hay B200 — những cấu hình đó hiếm trong doanh nghiệp nội địa — mà ở chỗ mô hình rơi xuống ngưỡng 24 GB VRAM. Một chiếc RTX 4090 hay 3090 với 32 GB RAM là thứ nhiều studio nhỏ, team làm nội dung hoặc nhóm nghiên cứu có thể tiếp cận. Con số 130–157 giây cho clip 5,2 giây đồng nghĩa quy trình dựng thử nghiệm hàng loạt vẫn khả thi nếu chấp nhận tuần tự hóa.

Việc hỗ trợ cả GGUF, INT8 và các runtime quen thuộc như ComfyUI, stable-diffusion.cpp cũng hạ thấp rào cản tích hợp: đội phát triển không phải viết lại pipeline mà chỉ cần chèn node hoặc gọi CLI. Cần lưu ý rằng trọng số là Model Derivative của MiniMax-H3 theo MiniMax H3 Community License Agreement, và thỏa thuận này không bao gồm việc sử dụng ở Liên minh châu Âu, Vương quốc Anh, Hàn Quốc hay Hoa Kỳ nếu không có sự cho phép của MiniMax — yếu tố cần kiểm tra kỹ nếu sản phẩm nhắm tới khách hàng nước ngoài.