【交作业】双7900XTX 跑 MiniMax-H3组TP2 到底值不值？
-
文章参考两张 7900 跑 MiniMax-H3 张量并行：每步 18.6 s → 8.3 s，每卡省 10 GiB，下面将用双7900XTX进行配置及测试。
看到帖子里双卡张量并行把 H3 的采样速度明显拉高，我也在两张 RX 7900 XTX 上按相同的视频规格做了一组单卡 / TP2 对照。先说结果：TP2 确实让 DiT 稳定采样快了约 1.59 倍，也把显存分到两张卡；但整段视频只快约 16%，不是每个环节都能翻倍。
这次对照使用相同首帧、相同提示词和 seed，单卡、双卡都生成 832×480、124 帧、24 fps 的视频，Euler 8 步。两段都是完整 MP4，实际解码为 124 帧、时长 5.167 秒。
测试环境
项目 配置 CPU AMD Ryzen 5 7500F，6 核 12 线程 内存 96 GiB GPU 2 × AMD Radeon RX 7900 XTX，24 GiB / 卡，RDNA 3 / gfx1100 GPU 链路 两卡均报告 PCIe 4.0 ×16；ROCm 设备查询显示双向 peer access 可用 系统 Ubuntu 24.04.5 LTS，Linux 7.0.0-38-generic ROCm / PyTorch ROCm HIP 7.2（PyTorch 2.11.0+rocm7.2）；ROCm 内核驱动组件版本 7.0.0-38Python / ComfyUI Python 3.12.3，ComfyUI 0.30.0 模型 MiniMax-H3 FL2VA pruned INT8 ConvRot；Qwen3-VL INT8 文本编码器 Attention PyTorch attention / SDPA VAE、文本编码器 VAE 在 GPU 0；文本编码器在 CPU 怎么测的
两次测试顺序执行，各自使用新启动的 ComfyUI 进程；测试前没有清空操作系统的文件缓存。生成条件固定如下：
- 832×480，124 帧，24 fps（成片约 5.17 秒）
- Euler sampler，simple scheduler，8 步
- seed 145；同一首帧和提示词：“A small red fox walks through a quiet forest after rain. Natural movement, soft daylight, steady camera. Ambient forest sounds. No text or logos.”
- INT8 ConvRot H3 DiT；CPU 文本编码器、GPU VAE；两边均用 PyTorch attention
- 单卡只让 GPU 0 运行；TP2 将 DiT 注意力和 FFN 的线性层权重切到两张卡，并用 RCCL 汇总行并行层的部分结果
这里的 TP2 是真正的张量并行：QKV 和 FFN 第一层按输出维切分；attention 输出层和 FFN 第二层按输入维切分，并在两个行并行层之后做跨卡归约。两张卡处理同一份激活序列，文本编码器和 VAE 没有做 TP。
结果
指标 单卡 双卡 TP2 TP2 相对单卡 完整生成时间 312.08 秒（5分12秒） 262.14 秒（4分22秒） 快 16.0%（1.19×） 稳定采样步：第 2–7 步均值 21.16 秒 / 步 13.35 秒 / 步 快 36.9%（1.59×） 采样显存峰值：GPU 0 23.51 GiB 18.91 GiB 少 4.60 GiB 采样显存峰值：GPU 1 0.03 GiB 13.07 GiB TP2 使用了第二张卡 输出 832×480，124 帧 832×480，124 帧 两段均为 5.167 秒 H.264 
采样阶段的加速比是 1.59×，整段生成只有 1.19×。原因是被 TP 切分的主要是 H3 DiT；文本编码、模型载入和 VAE 编解码没有因此按两卡缩短。视频越长、采样占总时间越高，TP2 的算力收益才越容易体现在最终等待时间上。
两段视频使用相同 seed，但 TP2 并非单卡逐像素复刻：抽取完整视频逐帧计算得到的 PSNR 均值约为 23.94 dB。这说明量化、分片计算和归约会改变输出细节；同 seed 不能当作画面完全相同的保证。
TP 组起来有意义吗？
**有条件地有意义。**这次测试里，TP2 把稳定采样步从 21.16 秒降到 13.35 秒，单卡 GPU 峰值也从 23.51 GiB 降到 18.91 GiB，第二张卡承担约 13.07 GiB。单卡已经非常接近 24 GiB 上限；若要增加视频帧数、分辨率或工作流里其他 GPU 节点，显存余量会很紧。TP2 的显存分摊可能比它的整段速度提升更有实际价值。
如果主要看单条短视频端到端耗时，这组 5.17 秒视频从 5分12秒降到 4分22秒，实际少等约 50 秒，提升存在，但远没有采样阶段看起来那么大。组双卡还会增加显卡、电源、机箱和散热成本，也引入 TP 实现、跨卡通信和数值差异；只为了跑短片，不一定值得专门添一张卡。
如果手头已经有两张 7900 XTX，或者目标是减少单卡显存压力并跑更重的长视频，TP2 就比较有意义。当前这套配置更准确的结论是：双卡显著改善了 DiT 采样速度和显存余量，整条生成流程得到中等幅度提速。
-
-
，
T terry 固定了此主题
-
-
-
-
-
-
-
-
如果只切线性层、attention 仍是两卡各算全量，我们这边预期是 8.13（attention）+ 10.44/2（线性层一半）≈ 13.3 s/步，和你的 13.35 几乎重合。 所以第一件要确认的事：attention 的 head 是不是真的切了——日志里应该看到 heads=28 （56 的一半）；如果还是 56，加速比就会正好卡在 1.6× 这个位置。
三处会直接吃掉速度/显存的地方
attention 后端：你现在是 PyTorch SDPA。我们实测同一配置 1 步：SDPA 495 s、CK 97 s（5.08×）， 显存 32.3 → 18.0 G/卡。启动参数加 --use-ck-attention 即可（需要 comfy-kitchen）。
文本编码器在 CPU：你端到端 312 s，采样 8×21.16≈169 s，中间 ~140 s 基本是 CPU 编码。 编码器上 GPU 能省掉大半（24 G 卡装不下 26 G 的 int8 编码器，换 int4 版约 14 G 就能装）。
VAE 在 GPU 0：所以你的两卡峰值是 18.91 / 13.07，不对称。把 VAE 挪到不跑 DiT 的位置， 采样期应该两边都落到 13 G 左右。最根本的就是显存占用不对称，这个很明显
-
双7900XTX 跑 MiniMax-H3 是不是完胜 一张4080S 32GB呢？就是只跑Comfyui视频而言。我最近在考虑买显卡，方案没有定。想找个性价比，同时也省心的方案。
@Michael-ZHANG 跑1344乘768分辨率，4080s16g的都够，而且速度跟32g的没区别。大显存主要是跑更高分辨率才有优势。也就是说，你只需要一张4080s16g就能出画质在线的片子。你问我为什么知道，因为我就是用的4080s16g，速度杠杠的，你再搞个黑科技工作流，那速度更快了。哈哈
-
双7900XTX 跑 MiniMax-H3 是不是完胜 一张4080S 32GB呢？就是只跑Comfyui视频而言。我最近在考虑买显卡，方案没有定。想找个性价比，同时也省心的方案。
@Michael-ZHANG 一张4080s16g出1344乘768分辨率的视频，比双7900xtx都快，哈哈，你说气不气。
-
那看来我考虑N卡了，之前考虑的是A卡pro9700.
-
@Michael-ZHANG 一张4080s16g出1344乘768分辨率的视频，比双7900xtx都快，哈哈，你说气不气。
-
@Werther-Wang 气人，我还在测试，看能不能组成双卡后，像老特说的那样推高分辨率和时长，这个测试比较耗时间
-
-
@terry
刚刚完成实测表明，双 7900 XTX 组 TP2 后，视频生成的显存承载能力有所提升，可以完成单张 24GB 显卡无法承载的任务。在相同模型和精度、采样时模型权重全部驻留显卡的条件下，测试结果如下：
分辨率 单卡 24GB 双卡 TP2 832×480 8 秒通过，10.13 秒 OOM 20.04 秒通过，25 秒 OOM 1280×736（约 720p） 5.17 秒 OOM 8 秒通过，10.13 秒 OOM 1920×1088（约 1080p） 3.04 秒 OOM 3.04 秒通过，3.75 秒 OOM 表中列出的是已测试的通过和失败档位，尚未逐帧搜索容量极限。容量探测主要使用 1～2 步采样；此外，实际完成了 720p、5.17 秒、8 步的视频，以及 480p、20.04 秒、2 步的视频。
需要明确的是，双卡 TP2 不能当作一张具有 48GB 连续显存的显卡使用。两张卡的显存相互独立。TP2 会将部分权重和计算分配到两张卡，但仍受单卡显存限制，因此两卡显存总量不能直接视为单卡可用容量。
在 1080p 测试中，TP2 的 **73 帧（3.04 秒）**采样通过，两卡峰值占用合计约 42.83 GiB；**90 帧（3.75 秒）**时 OOM，占用合计约 45.52 GiB。另一次 107 帧测试也发生 OOM，占用合计约 47.34 GiB。失败时，单卡仍无法满足额外的连续显存申请，另一张卡的空余空间无法直接补上。因此，不能把接近 48 GiB 的两卡总占用理解为可用的 48 GiB 单卡显存。
另一个 480p 长视频任务的单卡张量显存峰值估算约为 27.55 GiB。估算方法在可运行的单卡任务上校准，最大误差约 0.23 GiB；该数值是特定工作负载的估算，不代表双卡 TP2 有固定的“等效显存容量”，也不能用于推算 1080p 的可生成时长。
结论：双卡 TP2 确实扩大了这套模型的显存承载范围，但不等同于一张 48GB 显卡。实际能生成的分辨率和时长取决于具体工作负载；本次 1080p 测试中，73 帧通过，90 帧已 OOM。
-
-
@Werther-Wang 气人，我还在测试，看能不能组成双卡后，像老特说的那样推高分辨率和时长，这个测试比较耗时间
-
版主审定：本帖设为精华，作者 +6 积分奖励，希望再接再厉！
