两张 7900 跑 MiniMax-H3 张量并行:每步 18.6 s → 8.3 s,每卡省 10 GiB
-
-
-
-
-
-
-
,
T terry 引用了 此主题
-
-
补一组 48G 卡(双 W7900,TP=2)的边界实测,供后来人参考。
条件:TP=2(rank0/rank1 两个 ComfyUI 实例,
--use-ck-attention),PDD 8 步蒸馏,CK 注意力,单镜单段,24fps 容器。显存都是单卡(48 GiB)占用。分辨率 帧数 时长@24fps 单步稳态 采样总时长(8步) 采样期显存/卡 解码峰值/卡 余量 单镜耗时 832×480 124 5.17s 7.68 s 61 s 12.9 GiB 13.3 GiB 35.1 GiB 128 s 1344×768 124 5.17s 28.3 s 170 s 16.1 GiB 28.5 GiB 31.9 GiB 297 s 1344×768 175 7.29s 46.6 s 279 s 17.6 GiB 28.7 GiB 30.4 GiB 466 s 1600×896 124 5.17s 46.9 s 281 s 17.6 GiB 28.8 GiB 30.4 GiB 472 s 1920×1088 124 5.17s 86.7 s 520 s 21.3 GiB 29.3 GiB 26.7 GiB 835 s 1920×1088 362 15.08s 534.9 s 3208 s 37.4 GiB — 10.6 GiB 76 min -
补一组 48G 卡(双 W7900,TP=2)的边界实测,供后来人参考。
条件:TP=2(rank0/rank1 两个 ComfyUI 实例,
--use-ck-attention),PDD 8 步蒸馏,CK 注意力,单镜单段,24fps 容器。显存都是单卡(48 GiB)占用。分辨率 帧数 时长@24fps 单步稳态 采样总时长(8步) 采样期显存/卡 解码峰值/卡 余量 单镜耗时 832×480 124 5.17s 7.68 s 61 s 12.9 GiB 13.3 GiB 35.1 GiB 128 s 1344×768 124 5.17s 28.3 s 170 s 16.1 GiB 28.5 GiB 31.9 GiB 297 s 1344×768 175 7.29s 46.6 s 279 s 17.6 GiB 28.7 GiB 30.4 GiB 466 s 1600×896 124 5.17s 46.9 s 281 s 17.6 GiB 28.8 GiB 30.4 GiB 472 s 1920×1088 124 5.17s 86.7 s 520 s 21.3 GiB 29.3 GiB 26.7 GiB 835 s 1920×1088 362 15.08s 534.9 s 3208 s 37.4 GiB — 10.6 GiB 76 min -
-
,
懒 懒人烘培 引用了 此主题
-
,系统 取消固定了此主题
-
版主认可:感谢对双卡 TP 跑 H3 的实测验证,每步 18.6s → 8.3s 的数据很有说服力,对想上双卡的锤友帮助很大。
本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!