双 R9700 跑 MiniMax H3:Radiance 加速全链路数据沉淀(对照 @Bunsei topic/3096)
-
昨天生成参赛视频,应 @bunsei 大佬的指示测试他的 Radiance 加速工作流,于是把 Radiance 加速工作流下的几种参数选择都做了对比测试,在此做个总结贴,备查,同时也欢迎交流。
前序帖子索引:
MiniMax H3 视频大赛参赛帖:双 R9700 本地管线 1344×768/12s 全质量出片:
https://lcz.me/topic/3139
ComfyUI-H3-RDNA4(Radiance 后端)R9700 实测:H3 R2V 采样 2.01×:
https://lcz.me/topic/3144统一基准:1344×768 / 288 帧 / 12s / 双 R9700 32G(gfx1201)/ ROCm 7.2.4 / ComfyUI 0.45.0 / H3-RDNA4 v0.2.0(commit ab4ce543)。@Bunsei 环境:同款双卡,CPU 9700X + DDR5,PyTorch 2.12+rocm7.14。
结论
- 全流程 77:30 → 11:48(6.6×),加速是两条正交轴:主干吞吐(210→64.4 s/步)× 步数(20→6)。
- 单步主干与同卡作者打平(62.8 vs 65~70 s/步),主干吞吐已无提升空间。
- 编码器 NVFP4
INT8 互换零收益;NVFP4 的收益在 v0.2.0 专属加速路径(原精度加速 + 双卡前馈),只作用于预处理(172.0→119.0 s,↓30%)。 - 对标 Bunsei 8:29:总差距从 3.1× 缩到 1.36×,残余全在预处理平台差与「原生并行」解码后端不可用。
演进数据表(同基准逐阶段)
阶段 配置要点 全流程 采样步时 预处理 倍率 原生 官方管线无加速 77:30 ~210 s/步 — 1× Radiance 单卡 INT8 QK+FP8 PV、激活=显存、staging+reuse 双开 38:34 101.5 s/步 — 2.01× 双卡 TP devices "0,1"、VT-d Translated、HSA_ENABLE_IPC_MODE_LEGACY=0、P2P 10.20/10.21 GB/s 26:36 64.4 s/步 172.0 s 2.91× 换 INT8 编码器 int8_convrot 替换 nvfp4_awq,其余不动 26:53 64.4(不变) 170.1 s ≈持平 NVFP4+加速开关 原精度加速 + parallel_qwen_linear,双卡前馈 (预处理专项) 64.4(不变) 119.0 s ↓30% 六步 LCM pika LoRA 强度1 + LCM + CFG1 + seed42 + shift 12/3 + 六步时间表 + FP16 VAE 11:48 65~70 s/步 130.2 s(含冷启动) 6.6× 六步配置(照抄 topic/3096):
pika_h3_flex_ref2va_v1_bf16强度 1、lcm、ManualSigmas1.0, 0.972973, 0.923077, 0.8, 0.571429, 0.333333, 0.0、MiniMaxH3SigmaShift(12,3)、视频 VAE FP16 / 音频 VAE FP32。三方对照:仓库 preset / Bunsei 实测 / 我们实测
Tuning 节点已逐项对齐官方 32GB 双卡 preset(
presets/sampling-by-capacity.json):headroom 4096 MiB、IPC 4.0 GiB、weight_staging 开、reuse_hidden_buffer 开、host_pool 12288、分块 4096、collective 16、锁页 48。项 仓库/作者口径 Bunsei 实测 我们实测 采样 6 步合计 — 395.2 s(62.8 s/步) 423.7 s(65~70 s/步) 预处理 作者预测 NVFP4 加速 ~150 s 50.85 s(v0.1.0 + INT8 编码器) 119.0 s(热)/130.2 s(冷启动) 解码+音频+保存 — ~58 s(原生并行后端) ~154 s(自动选择后端) 全流程 3D — 509.4 s = 8:29 708 s = 11:48 主模型/编码器 INT8 ConvRot 全家桶 ref2va_int8 + INT8 编码器 ref2va_int8 + nvfp4_awq 加速 残差拆账:预处理 +79 s 与解码 +96 s 两个坑,采样端 +28 s(3%)。
坑实录(现象/根因/解法)
现象 根因 解法 双卡 TP 单步 256~419 s 激活缓冲在内存/混合 + 未设 HSA IPC 变量 激活=显存 + HSA_ENABLE_IPC_MODE_LEGACY=0;P2P 需 VT-d Translated,intel_iommu=off直接不可达P2P 单向仅 ~2 GB/s BAR 在 46 位地址超 44-bit DMA mask,peer 写直达失败 VT-d Translated 让内核代转译,实测回升 10.20 GB/s(作者参考机 10.29) 换编码器报 This CLIP does not expose the native H3 Qwen language modelH3 管线只认 minimax_h3 专调权重,通用 Qwen3VL 量化拒载 文件名必须含 minimax_h3;裸换格式零收益,收益在 References 节点加速开关linear=原精度加速跑了但没变快fallbacks 静默退回原生;缺 libh3_qwen_linear.so验收看 preprocessing 记录: qwen_language_linear="exact"、linear_calls 双卡分片(如 500+300)、dual_ffn>0、fallbacks==[];缺库build_native.py --linear-onlydecode 原生并行后端两种死法INT8 VAE 保留 FP16 解码权重被拒载;FP16 VAE + TP 环境触发 HSA_STATUS_ERROR_MEMORY_APERTURE_VIOLATION(跨卡 worker + VT-d BAR 冲突),实例 500我们环境锁死 自动选择;作者机器能跑≠同配置可移植质检与权重校验
- 六步出片抽帧边缘密度 3.6~4.7%(20 步基线健康带 5~17%;LCM 少步天然柔和,目检无崩坏,中央光爆处手/刀融合为 6 步采样固有代价)
- LoRA
pika_h3_flex_ref2va_v1_bf16.safetensors(1.82 GiB)SHA256 de3745ce…c766b0e0 ✓;FP16 VAE(4.85 GiB)SHA256 7c1f1314…ce5e522 ✓
待收敛项
- 解码档位(linear_chunk_rows / gemm 组合)未调,自动选择后端的理论下限未探
- 预处理冷启动 130 s:实例保活 + 权重容器磁盘缓存命中可省 ~40 s
- 理论下限 ≈ 10:30(不改硬件不动后端)
-
-
加速6倍?看来我要开始存钱买amd了
-
加速6倍?看来我要开始存钱买amd了
@imbiplaza-ASUS 加速 6 倍是把步数从 20 步 lora 到 6 步了。