【结论:可行!】双 RX 7900 XTX 以 TP=2 跑 MiniMax-H3 的可行性实测报告
-


-
出1344乘768分辨率的视频,测试是16g显存就够,其实双7900xtx可以测试一下生成1920或者2048分辨率,甚至更高,看看速度怎么样
-
出1344乘768分辨率的视频,测试是16g显存就够,其实双7900xtx可以测试一下生成1920或者2048分辨率,甚至更高,看看速度怎么样
@Werther-Wang 常规工作流是跑个低分辨率低桢的视频来校验关键词,没问题通过专门的节点补桢并提升分辨率。起手高分辨率我看来意义不大。
-
@Werther-Wang 常规工作流是跑个低分辨率低桢的视频来校验关键词,没问题通过专门的节点补桢并提升分辨率。起手高分辨率我看来意义不大。
@xiongjie-gao 直出高分辨率画质会好一些。对画质有极致要求的可以尝试,一般也都用不到。
-
@xiongjie-gao 直出高分辨率画质会好一些。对画质有极致要求的可以尝试,一般也都用不到。
@Werther-Wang anyway,作为测试其能力边界,是有意义的。而且TP=2明显摊薄通信短板,已经安装上在跑了。
-
出1344乘768分辨率的视频,测试是16g显存就够,其实双7900xtx可以测试一下生成1920或者2048分辨率,甚至更高,看看速度怎么样
@Werther-Wang 谢谢你的对比测试,有参考意义.
-
@Werther-Wang 谢谢你的对比测试,有参考意义.
@Michael-ZHANG 不过你还要考虑cpu和内存有没有影响,这个我不知道,我测试用的cpu和内存你也考虑下。
-
谢谢老哥的对比测试, 目前单卡起步跑儿童频道, 多几个月买多一张了过来抄作业. 🤩 也感谢各位a卡发热的老哥们



现在好稀罕几个月前买下的7900xtx 下了班折腾折腾还挺好玩
-
@Michael-ZHANG 不过你还要考虑cpu和内存有没有影响,这个我不知道,我测试用的cpu和内存你也考虑下。
@Werther-Wang 我的配置:
CPU:AMD EPYC 7k62
内存:镁光DDR4 3200 RECC 32GB x2
硬盘:SSD致钛1TB NVme
主板:华南金牌H12D-8D(单路)
电源:长城F16白金1600W
显卡:AMD MI50x2
机箱:长城黑匣子AI09
网卡:主板自带2.5GBx2
C PU,内存,SSD,显卡是公司淘汰的,其他的我自己买的。目前准备再买2条32GB REC C内存。再买显卡把MI50换了,之前考虑A卡Pro9700一张或者2张, 看了大家的测评,感觉买一张N卡就可以了。这套系统主要跑comfyui。LLM用在线API,主要用Deepseek/MiniMax/千问三家的。 -
@Michael-ZHANG 不过你还要考虑cpu和内存有没有影响,这个我不知道,我测试用的cpu和内存你也考虑下。
@Werther-Wang CPU和内存不会是瓶颈
通信摊薄曲线:640×352 → 1536×864(124 帧,均为 4–8 步实测)
分辨率 S(token) 单卡 s/步 TP=2 s/步 加速比 all_reduce 通信耗时占单步 640×352 8 140 5.80 5.28 1.10× 8.6 GB 45% 832×480 14 430 11.23 9.44 1.19× 14.9 GB 40% 1024×576 21 312 19.10 14.99 1.27× 21.8 GB 36% 1280×704 32 560 35.49 26.00 1.37× 33.0 GB 32% 1344×768 37 296 43.72 30.78 1.42× 37.8 GB 29% 1536×864 47 952 65.60 44.49 1.47× 48.5 GB 26% 通信耗时 = TP2 单步 − 单卡单步/2(把「计算完美二分」当基准),等效带宽稳定在 3.6–4.2 GB/s。加速比随 S 单调上升,S 从 8.1k 到 48k(5.9×)时单卡单步涨 11.3×,因为 attention 是 S²、all_reduce 只是 S——这就是“摊薄”的来源。

左:单卡 vs TP=2 每步耗时;右:加速比。640×352 只有 1.10×(通信占单步 45%),到 1536×864 升到 1.47×(通信占 26%),上限趋近 2×。
基本印证跟我的对提升上限1.50×的猜想
-
@Werther-Wang CPU和内存不会是瓶颈
通信摊薄曲线:640×352 → 1536×864(124 帧,均为 4–8 步实测)
分辨率 S(token) 单卡 s/步 TP=2 s/步 加速比 all_reduce 通信耗时占单步 640×352 8 140 5.80 5.28 1.10× 8.6 GB 45% 832×480 14 430 11.23 9.44 1.19× 14.9 GB 40% 1024×576 21 312 19.10 14.99 1.27× 21.8 GB 36% 1280×704 32 560 35.49 26.00 1.37× 33.0 GB 32% 1344×768 37 296 43.72 30.78 1.42× 37.8 GB 29% 1536×864 47 952 65.60 44.49 1.47× 48.5 GB 26% 通信耗时 = TP2 单步 − 单卡单步/2(把「计算完美二分」当基准),等效带宽稳定在 3.6–4.2 GB/s。加速比随 S 单调上升,S 从 8.1k 到 48k(5.9×)时单卡单步涨 11.3×,因为 attention 是 S²、all_reduce 只是 S——这就是“摊薄”的来源。

左:单卡 vs TP=2 每步耗时;右:加速比。640×352 只有 1.10×(通信占单步 45%),到 1536×864 升到 1.47×(通信占 26%),上限趋近 2×。
基本印证跟我的对提升上限1.50×的猜想
@xiongjie-gao 分辨率还能再提高么?最高能生成多大的分辨率,我比较好奇。
-
@xiongjie-gao 分辨率还能再提高么?最高能生成多大的分辨率,我比较好奇。
@Werther-Wang 我的两张卡性能开关都在均衡上,要测极限还要动硬件。太累了

-
,
T terry 固定了此主题
-
-
双 RX 7900 XTX 以 TP=2 跑 MiniMax-H3和单K 4080S 32GB,就跑comfyui来说,选择哪个更有效率?反正4080S也有3年质保嘛,楼主大神建议一下。
-
-
-
,
T terry 引用了 此主题
-
-
-
@Werther-Wang CPU和内存不会是瓶颈
通信摊薄曲线:640×352 → 1536×864(124 帧,均为 4–8 步实测)
分辨率 S(token) 单卡 s/步 TP=2 s/步 加速比 all_reduce 通信耗时占单步 640×352 8 140 5.80 5.28 1.10× 8.6 GB 45% 832×480 14 430 11.23 9.44 1.19× 14.9 GB 40% 1024×576 21 312 19.10 14.99 1.27× 21.8 GB 36% 1280×704 32 560 35.49 26.00 1.37× 33.0 GB 32% 1344×768 37 296 43.72 30.78 1.42× 37.8 GB 29% 1536×864 47 952 65.60 44.49 1.47× 48.5 GB 26% 通信耗时 = TP2 单步 − 单卡单步/2(把「计算完美二分」当基准),等效带宽稳定在 3.6–4.2 GB/s。加速比随 S 单调上升,S 从 8.1k 到 48k(5.9×)时单卡单步涨 11.3×,因为 attention 是 S²、all_reduce 只是 S——这就是“摊薄”的来源。

左:单卡 vs TP=2 每步耗时;右:加速比。640×352 只有 1.10×(通信占单步 45%),到 1536×864 升到 1.47×(通信占 26%),上限趋近 2×。
基本印证跟我的对提升上限1.50×的猜想
@Werther-Wang CPU和内存不会是瓶颈
通信摊薄曲线:640×352 → 1536×864(124 帧,均为 4–8 步实测)
分辨率 S(token) 单卡 s/步 TP=2 s/步 加速比 all_reduce 通信耗时占单步 640×352 8 140 5.80 5.28 1.10× 8.6 GB 45% 832×480 14 430 11.23 9.44 1.19× 14.9 GB 40% 1024×576 21 312 19.10 14.99 1.27× 21.8 GB 36% 1280×704 32 560 35.49 26.00 1.37× 33.0 GB 32% 1344×768 37 296 43.72 30.78 1.42× 37.8 GB 29% 1536×864 47 952 65.60 44.49 1.47× 48.5 GB 26% 通信耗时 = TP2 单步 − 单卡单步/2(把「计算完美二分」当基准),等效带宽稳定在 3.6–4.2 GB/s。加速比随 S 单调上升,S 从 8.1k 到 48k(5.9×)时单卡单步涨 11.3×,因为 attention 是 S²、all_reduce 只是 S——这就是“摊薄”的来源。

左:单卡 vs TP=2 每步耗时;右:加速比。640×352 只有 1.10×(通信占单步 45%),到 1536×864 升到 1.47×(通信占 26%),上限趋近 2×。
基本印证跟我的对提升上限1.50×的猜想
我在自己的双 7900XTX 上往上走了一档,结果和你的一致——但墙不是带宽,是显存。
机器:X570 + 3500X,双 XTX 拆 8+8(P2P 实测 14.2 GB/s),ROCm 7.2.3,用的是 fcys 的 tp2-comfy。
分辨率 我们 s/步 峰值显存/卡 832×480 7.54 — 1600×896(124 帧) 45.8 22.8 / 25.3 GB 1920×1088 OOM 放不下 你说的"分辨率越大越划算"成立:我们 8.4× 像素只多花 6.1× 时间,通信确实被摊薄了。按你的 1344×768(30.78 s/步)线性外推到 1600×896 应该是 ~42.5 s/步,我们 45.8,同量级。
但到 1600×896 就到头了:第二张卡用到 25.3/25.75 GB,只剩 0.4 GB,1920×1088 直接 OOM。所以 24G 卡双卡 TP2 的天花板在 1600×896 这一档——要上 1920,只能减帧数(length 124→64 应该就下来了),不是换链路。
另外踩到一个坑,提醒后来的人:TP2 每个 block 里是
dist.all_reduce,同一个 prompt 必须同时发给两个端口。我们只发了一边,另一边就在第一个 all_reduce 上挂死了——41 分钟后以 OOM 收场,日志里完全看不出来是这原因。(还有个和速度无关但占比最大的:这套工作流的文本编码器在 CPU,一次 ~11 分钟,比 8 步 DiT 的 6 分钟还长。)
-
@Werther-Wang 我的配置:
CPU:AMD EPYC 7k62
内存:镁光DDR4 3200 RECC 32GB x2
硬盘:SSD致钛1TB NVme
主板:华南金牌H12D-8D(单路)
电源:长城F16白金1600W
显卡:AMD MI50x2
机箱:长城黑匣子AI09
网卡:主板自带2.5GBx2
C PU,内存,SSD,显卡是公司淘汰的,其他的我自己买的。目前准备再买2条32GB REC C内存。再买显卡把MI50换了,之前考虑A卡Pro9700一张或者2张, 看了大家的测评,感觉买一张N卡就可以了。这套系统主要跑comfyui。LLM用在线API,主要用Deepseek/MiniMax/千问三家的。@Michael-ZHANG 你这个硬盘小,你玩儿comfyui后会发现,有很多大模型都需要去尝试,还有会下很多lora,我现在2t刚刚好,以后估计2t都不够用。你这个1t以后不够用了再换就麻烦。
版主审定:本帖设为精华,作者 +6 积分奖励,希望再接再厉!