单卡 R9700 32G 跑 MiniMax-H3优化效果:每步从 353 秒到 114 秒
近期一直在搞R9700的Comfyui,搞得有点崩溃,我之前1344×768像素下,测出来的效果一直是每步 353 秒左右,做视频很痛苦。跟着大佬的帖子,让Agent梳理了下,目前提升到114秒
环境
| 项 | 对齐前 | 对齐后 |
|---|---|---|
| GPU | AMD Radeon AI PRO R9700 32 GB(gfx1201) | 同左(未变) |
| 系统 ROCm | 7.2.53211 | 7.2.53211(未变) |
| venv 里的 torch | 2.10.0+rocm7.0 | 2.11.0+rocm7.2 |
torch.version.hip |
7.0.51831 | 7.2.26015 |
| torchvision | 0.25.0+rocm7.0 | 0.26.0+rocm7.2 |
| torchaudio | 2.10.0+rocm7.0 | 2.11.0+rocm7.2 |
| ComfyUI | 0.41.0 | 0.41.0(未变) |
| comfy_kitchen | 0.2.38 | 0.2.38(未变) |
| 权重 | 主模型 ref2va_pruned-w4a8 12 GB + 编码器 qwen3vl_32b-int4 13.5 GB + VAE 5 GB ≈ 31 GB |
同左(未变) |
| 出图规格 | 1344×768(1.03 MP)/ 294 帧 @ 24 fps = 12.25 秒 / 参考图 6 张(ref2v) | 同左(未变) |
| 启动参数 | 无额外开关 | --use-ck-attention --disable-smart-memory |
对齐前 torch 与系统 ROCm 分属 7.0 与 7.2(同大版本、次版本不同);对齐后两端均为 7.2。
之前的问题:
- comfy_kitchen 0.2.38 其实早就装好了。
int8_attention_is_available()在 R9700 上返回 True,HIP 后端也注册成功(backend hip: {'available': True, 'disabled': False})。 - 但 ComfyUI 一直没带
--use-ck-attention启动,所以跑的一直是兜底路径。日志原话:[INFO] Using pytorch attention。 - 每步 353 秒就是这个兜底路径下的数字。作为参照,社区在 832×480 / 362 帧 / 8 步上测到 sub_quad 259 秒/步、CK 50.1 秒/步(外部数据,仅作量级参考)——353 秒与 sub_quad 那一档处于同一量级,而不是 CK 档。
加上开关后日志变成:
[INFO] Found comfy_kitchen backend hip: {'available': True, 'disabled': False, ...}
[INFO] Using Comfy Kitchen attention
[INFO] comfy-kitchen version: 0.2.38
数据表
| # | 环境 | torch / 系统 ROCm | 启动参数 | 注意力后端(日志原文) | 步数 | 每步 | 采样 | 端到端 |
|---|---|---|---|---|---|---|---|---|
| 1 | 之前 | 2.10.0+rocm7.0(HIP 7.0.51831)/ 7.2.53211 | 无额外开关 | Using pytorch attention |
8 | ≈353 秒 | 未跑完 | — |
| 2 | 现在 | 同上,未变 | --use-ck-attention --disable-smart-memory |
Using Comfy Kitchen attention |
4 | 114.35 秒 | 7 分 37 秒 | 13 分 56 秒 |
| 3 | 现在 | 同上,未变 | 同上 | 同上 | 8 | 114.33 秒 | 15 分 14 秒 | 21 分 16 秒 |
| 4 | 对齐后 | 2.11.0+rocm7.2(HIP 7.2.26015)/ 7.2.53211 | 同上 | 同上 | 4 | 114.37 秒 | 7 分 37 秒 | 未留存 |
| 5 | 对齐后 | 同上 | 去掉 --use-ck-attention,仅 --disable-smart-memory |
Using pytorch attention |
4 | 352.31 秒 | 23 分 29 秒 | 29 分 45 秒 |
五行同为 1344×768、294 帧、同一套 int4 权重,差别只在启动开关与 torch 版本。第 2、4 行用 4 步 LoRA,第 3 行用 8 步 LoRA;每步 114.35 / 114.33 / 114.37,说明单步成本与步数、LoRA 档位都无关,也与 torch 版本无关。
第 5 行是本轮补的关键对照:同一套 int4 权重、同一环境,只把 --use-ck-attention 去掉,每步从 114.37 秒回到 352.31 秒(3.08×)。这说明 3 倍差距完全由这一个开关造成,与其他变量无关。
三条同口径结论:
- 单步成本与步数、LoRA 档位无关:114.35 / 114.33 / 114.37。
- 单步成本与 torch 小版本无关:114.35(rocm7.0)对 114.37(rocm7.2)。
- 单步成本与权重精度档无关:353(fp8 组)对 352.31(int4 组),同一 SDPA 路径。
横向对照:同分辨率、同后端,单卡 vs 双卡
社区帖(RX 7900 XTX ×2,RDNA3,ROCm 7.2)与本机同分辨率实测并列。社区数据为其帖子表格原文,仅作量级对照;其序列为 362 帧,比本机 294 帧多 23%。
| 机器 | 显卡 | 卡数 | 分辨率 / 帧 | 注意力后端 | 每步 |
|---|---|---|---|---|---|
| 本机 | R9700 32G(RDNA4) | 1 | 1344×768 / 294 | CK | 114.37 秒 |
| 社区 | 7900 XTX 24G(RDNA3) | 2(TP2) | 1344×768 / 362 | CK | 112.3 秒 |
| 社区 | 7900 XTX 24G(RDNA3) | 1 | 1344×768 / 362 | CK | 257.9 秒 |
| 本机 | R9700 32G | 1 | 1344×768 / 294 | 通用 SDPA | 352.4 秒 |
| 社区 | 7900 XTX 24G | 1 | 1344×768 / 362 | sub_quad 兜底 | OOM |
两点可直接引用:
- 一张 R9700 ≈ 两张 7900 XTX 的 TP2(114.37 对 112.3)。对方是两张卡张量并行,本机是一张卡。
- 同分辨率单卡对比:114.37 对 257.9,快 2.25×。 扣掉帧数差(294 对 362,少 19%)折算后仍快约 1.8×。
低分辨率参照(社区,832×480 / 362 帧):sub_quad 兜底 259 秒、CK 单卡 53.7 秒、CK TP2 31.9 秒。该档像素仅 0.4 MP,约为本机 1.03 MP 的四成,不能与本机数字直接相比。
对齐 torch 与系统 ROCm 之后:大版本内的对齐,收益基本没有
先界定这次对齐的性质:venv 里 torch.version.hip 从 7.0.51831 变成 7.2.26015,系统是 7.2.53211,两端始终在 ROCm 7.x 这同一个大版本内,只差次版本。属于「大版本内对齐」——ROCm 同大版本保持 ABI 兼容,内核本来就能正常加载,可修的东西几乎没有。
| 对齐类型 | 典型例子 | 预期收益 | 实测 |
|---|---|---|---|
| 大版本内(本次) | torch 7.0.51831 → 7.2.26015,系统 ROCm 7.2 | 接近 0,只消除隐患 | 114.35 → 114.37,+0.02% |
| 跨大版本 | torch +rocm10.1.0 链系统 ROCm 7.2(社区) | 高,属修复静默降级 | 4.8×(259 → 53.7) |