【双卡视频生成无痛提升18.8%】出片跨卡拆分为主项的视频生成优化项目——Kuzuryūsen本质是Combo
-
@terry 事情就是这么凑巧，昨天讲的虽是Radiance基础科普，真有一语惊醒梦中人的效果。
-
@terry 事情就是这么凑巧，昨天讲的虽是Radiance基础科普，真有一语惊醒梦中人的效果。
-
-
-
谢谢楼主——开关、脚本、对账逻辑都是现成的，我只做了一件事：搬到另一台机器上看还在不在。
结论：在，同量级
我们机器上（P2P 比原帖强 2.8 倍：peer 直拷 14.2/13.6 GB/s）：
拆分关 拆分开 Δ 出片 post 29.9–32.0s 24.7–26.2s −17%（原帖 −16.2%，同量级） 端到端（热） 116–118s 112.1–112.2s −4.5% per_step 11.8–12.4s 12.0–12.5s 0（符合设计） 拆分确实生效：
vae split chunks=7 seam=3 own=68/124 decode=8.2s exchange=0.6s。e2e 比原帖的 −13% 小，是因为我们 per_step（12s）比原帖（7.6s）大——出片的占比被慢采样稀释了，不是拆分打折。
机器配置
X570 ACE + Ryzen 9 5950X（16C/32T）+ 128 GB DDR4 3200 + 2× RX 7900XTX（两条 x16 Gen4，P2P 通）+ Ubuntu + ROCm
过程与坑
- 用例：832×480、124 帧、8 步（同原帖），每档 3 轮。
- 一个坑：
COMFY_TP_VAE_SPLIT=1只是启用节点，bench.py 还要带--vae-split才会把 VAEDecode 换成 TP2VAEDecodeSplit——我只设了 env，整组 B 静默走了原生路径，白跑一轮。 - 权重用的是现成的：Singularity ref2va w4a8 + turbo v4 LoRA + qwen3vl nvfp4 TE + 官方视频 VAE。per_step 12s 比原帖 7.6s 慢，多半是权重/量化配方不同——想问下楼主 fl2va w4a8 那套是在哪取的，想试试把采样也拉上来。
- 像素：按你的设计（帧计数对账、接缝两边各解）是逐位一致；我们端到端同种子的 PSNR 24dB 是采样非确定性（GPU atomics），不是拆分带来的——严格验证要用同 latent 喂两路，还没做。
- MLP 分块（MLP_CHUNKS=8）两组都开着，没单独 A/B——我们 P2P 快，那一段的原始占比本来就小。
一句话：出片跨卡这刀，在 5950X + 两条 x16 的机器上同样落得下去。
-
谢谢楼主——开关、脚本、对账逻辑都是现成的，我只做了一件事：搬到另一台机器上看还在不在。
结论：在，同量级
我们机器上（P2P 比原帖强 2.8 倍：peer 直拷 14.2/13.6 GB/s）：
拆分关 拆分开 Δ 出片 post 29.9–32.0s 24.7–26.2s −17%（原帖 −16.2%，同量级） 端到端（热） 116–118s 112.1–112.2s −4.5% per_step 11.8–12.4s 12.0–12.5s 0（符合设计） 拆分确实生效：
vae split chunks=7 seam=3 own=68/124 decode=8.2s exchange=0.6s。e2e 比原帖的 −13% 小，是因为我们 per_step（12s）比原帖（7.6s）大——出片的占比被慢采样稀释了，不是拆分打折。
机器配置
X570 ACE + Ryzen 9 5950X（16C/32T）+ 128 GB DDR4 3200 + 2× RX 7900XTX（两条 x16 Gen4，P2P 通）+ Ubuntu + ROCm
过程与坑
- 用例：832×480、124 帧、8 步（同原帖），每档 3 轮。
- 一个坑：
COMFY_TP_VAE_SPLIT=1只是启用节点，bench.py 还要带--vae-split才会把 VAEDecode 换成 TP2VAEDecodeSplit——我只设了 env，整组 B 静默走了原生路径，白跑一轮。 - 权重用的是现成的：Singularity ref2va w4a8 + turbo v4 LoRA + qwen3vl nvfp4 TE + 官方视频 VAE。per_step 12s 比原帖 7.6s 慢，多半是权重/量化配方不同——想问下楼主 fl2va w4a8 那套是在哪取的，想试试把采样也拉上来。
- 像素：按你的设计（帧计数对账、接缝两边各解）是逐位一致；我们端到端同种子的 PSNR 24dB 是采样非确定性（GPU atomics），不是拆分带来的——严格验证要用同 latent 喂两路，还没做。
- MLP 分块（MLP_CHUNKS=8）两组都开着，没单独 A/B——我们 P2P 快，那一段的原始占比本来就小。
一句话：出片跨卡这刀，在 5950X + 两条 x16 的机器上同样落得下去。
-
-
@terry 好的三三，一定不辱师门
-
-
好的三三
-
@Enigma 谢了兄弟 ，很好的参考实例。继续开发后用得到的数据
-
-
-
最终配置全分辨率扫描 + 最佳模式
最终配置（已固化进 start-tp2.sh）：CK attention + mmap + disable-smart-memory + disable-pinned-memory + disable-async-offload + reserve-vram 2（后三个是这次从旧版脚本抢救回来的），SHM 通道。实测步速（8 步口径，全部比优化前快）：
分辨率 步速 较优化前 12 步整条（冷） 4 步+LoRA 热跑（批量）
832×480 7.64 秒 ↓24% ~2.3 分钟 ~1.0 分钟
1024×576 12.74 秒 ↓20% ~3.1 分钟 ~1.4 分钟
1280×720 23.66 秒 ↓10% ~5.4 分钟 ~2.6 分钟
1920×1080 横屏 77.5 秒 ↓26% ~16.4 分钟 ~9 分钟
1088×1920 竖屏×107帧 ~60-64 秒 — ~14 分钟（你的生产口径） ~7.5 分钟
三个参数的收益随分辨率增大（480p −24%、1080p 横屏 −26%），576p/720p 也全面受益。没有发现任何回退。最佳模式推荐（按用途）
竖屏剧集成片（e4v2/e3v2 口径，1088×1920×107f×12步）：约 14 分钟/条，比旧版（15.4 分钟）稳快。你刚才那条实际产出验证通过。若镜头以人物/静态为主，换 turbo LoRA 4 步 → 约 7.5 分钟/条。
效率甜点仍是 1024×576：12.74 秒/步（24.5 s/MP，线性区内），配合放大出 1080p 是吞吐最优路线；批量热跑 4 步 LoRA 约 1.4 分钟/条。
1080p 原生：横屏 16.4 分钟、竖屏 14 分钟——修完参数后回到了可用的范围，但注意热漂移：连跑大批 1080p 时后面会慢 10-25%（你第一次尝试 106 秒/步、恢复后 59.6 秒/步就是这个原因），大批量中间让卡歇一两分钟。这个对吗？
-
-
谢谢楼主——开关、脚本、对账逻辑都是现成的，我只做了一件事：搬到另一台机器上看还在不在。
结论：在，同量级
我们机器上（P2P 比原帖强 2.8 倍：peer 直拷 14.2/13.6 GB/s）：
拆分关 拆分开 Δ 出片 post 29.9–32.0s 24.7–26.2s −17%（原帖 −16.2%，同量级） 端到端（热） 116–118s 112.1–112.2s −4.5% per_step 11.8–12.4s 12.0–12.5s 0（符合设计） 拆分确实生效：
vae split chunks=7 seam=3 own=68/124 decode=8.2s exchange=0.6s。e2e 比原帖的 −13% 小，是因为我们 per_step（12s）比原帖（7.6s）大——出片的占比被慢采样稀释了，不是拆分打折。
机器配置
X570 ACE + Ryzen 9 5950X（16C/32T）+ 128 GB DDR4 3200 + 2× RX 7900XTX（两条 x16 Gen4，P2P 通）+ Ubuntu + ROCm
过程与坑
- 用例：832×480、124 帧、8 步（同原帖），每档 3 轮。
- 一个坑：
COMFY_TP_VAE_SPLIT=1只是启用节点，bench.py 还要带--vae-split才会把 VAEDecode 换成 TP2VAEDecodeSplit——我只设了 env，整组 B 静默走了原生路径，白跑一轮。 - 权重用的是现成的：Singularity ref2va w4a8 + turbo v4 LoRA + qwen3vl nvfp4 TE + 官方视频 VAE。per_step 12s 比原帖 7.6s 慢，多半是权重/量化配方不同——想问下楼主 fl2va w4a8 那套是在哪取的，想试试把采样也拉上来。
- 像素：按你的设计（帧计数对账、接缝两边各解）是逐位一致；我们端到端同种子的 PSNR 24dB 是采样非确定性（GPU atomics），不是拆分带来的——严格验证要用同 latent 喂两路，还没做。
- MLP 分块（MLP_CHUNKS=8）两组都开着，没单独 A/B——我们 P2P 快，那一段的原始占比本来就小。
一句话：出片跨卡这刀，在 5950X + 两条 x16 的机器上同样落得下去。
在我这台机器上对比了 VAE 拆分关和开。出片阶段从 23.2 秒降到 17.1 秒，每条省 6.1 秒。 采样速度基本持平。
指标 拆分关 拆分开 本机变化 9 楼变化 出片 post 23.2 秒 17.1 秒 −26.3% −17% 热跑端到端 66.1 秒 60.1 秒 −9.1% −4.5% 采样 per_step 6.128 秒/步 6.140 秒/步 +0.2% 基本持平 表里是每组 3 轮热跑的中位数。拆分组的日志显示，VAE 共处理 7 个时间块，两张卡分别负责 68 帧和 56 帧，帧交换耗时 0.20–0.26 秒。六轮均输出完整的 124 帧。
机器配置
微星 MPG X670E CARBON WIFI、Ryzen 5 7500F、双 RX 7900 XTX、Ubuntu 24.04、PyTorch ROCm 7.2。卡间通信走 RCCL P2P/IPC。
权重
- 主模型
minimax_h3_fl2va_pruned-w4a8_convrot_pruned.safetensors - 文本编码器
qwen3vl_32b_minimax_h3-w4a8_convrot.safetensors - LoRA
minimax_h3_turbo_v4_step600_ema_pruned_comfyui.safetensors，强度 1.0 - 视频 VAE
Minimax_h3_video_vae_fp16.safetensors
测试方法
- 832×480、124 帧、8 步，采样器
res_multistep，调度器simple。 - 每组先预热 1 轮，再用 seed 145、146、147 配对热跑。两组均开启 TP2、MLP 8 分块和 BF16 归约，启动参数均为
--use-ck-attention --mmap-torch-files。 - 拆分开启组同时设置
COMFY_TP_VAE_SPLIT=1和bench.py --vae-split。关闭组走原生VAEDecode。 - post 沿用仓库脚本口径，从最后一步采样调用开始计到出片完成。每轮取两卡较慢的计时。
双 7900 XTX：模型本地跑，Token 随便烧！
-
在我这台机器上对比了 VAE 拆分关和开。出片阶段从 23.2 秒降到 17.1 秒，每条省 6.1 秒。 采样速度基本持平。
指标 拆分关 拆分开 本机变化 9 楼变化 出片 post 23.2 秒 17.1 秒 −26.3% −17% 热跑端到端 66.1 秒 60.1 秒 −9.1% −4.5% 采样 per_step 6.128 秒/步 6.140 秒/步 +0.2% 基本持平 表里是每组 3 轮热跑的中位数。拆分组的日志显示，VAE 共处理 7 个时间块，两张卡分别负责 68 帧和 56 帧，帧交换耗时 0.20–0.26 秒。六轮均输出完整的 124 帧。
机器配置
微星 MPG X670E CARBON WIFI、Ryzen 5 7500F、双 RX 7900 XTX、Ubuntu 24.04、PyTorch ROCm 7.2。卡间通信走 RCCL P2P/IPC。
权重
- 主模型
minimax_h3_fl2va_pruned-w4a8_convrot_pruned.safetensors - 文本编码器
qwen3vl_32b_minimax_h3-w4a8_convrot.safetensors - LoRA
minimax_h3_turbo_v4_step600_ema_pruned_comfyui.safetensors，强度 1.0 - 视频 VAE
Minimax_h3_video_vae_fp16.safetensors
测试方法
- 832×480、124 帧、8 步，采样器
res_multistep，调度器simple。 - 每组先预热 1 轮，再用 seed 145、146、147 配对热跑。两组均开启 TP2、MLP 8 分块和 BF16 归约，启动参数均为
--use-ck-attention --mmap-torch-files。 - 拆分开启组同时设置
COMFY_TP_VAE_SPLIT=1和bench.py --vae-split。关闭组走原生VAEDecode。 - post 沿用仓库脚本口径，从最后一步采样调用开始计到出片完成。每轮取两卡较慢的计时。
@懒人烘培 数据不错的喔
重要的这部分加速属于无成本白嫖，符合咱们论坛的调性。 - 主模型
-
@懒人烘培 数据不错的喔
重要的这部分加速属于无成本白嫖，符合咱们论坛的调性。 -
，系统 取消固定了此主题
本帖由优秀升级为精华（两者互斥，只补差价），作者 +3 积分，累计 6 分。
