显卡努力干活,我的耳朵优雅上班:4080S 32G 的 250W H3 甜点功耗实测
-
看了老特的吐槽,我全面支持他。本地 AI 是自己的未来,该学、该折腾的东西得掌握在自己手里。云端我也用,按任务选,两者本来就不冲突。
我这台机器也没什么讲究,放在家里一个角落。随意就是真理,能跑就是硬道理

当然,随意归随意,风扇在家里嗷嗷叫,我耳朵也受不了。我也想看看多耗的电到底换来多少性能。正好看到坛友双 W7900 跑 H3 的帖子,就拿自己的卡照着规格跑了一遍。
先说我的结论:这次 H3 测试里,250W 是我喜欢的甜点档。能省电、风扇转得低一些,性能也没丢多少。这次只测了 250W 和 320W,不能说 250W 是所有任务和所有档位的绝对最优。
机器和参数
- HP Z240 Tower,Xeon E3-1260L v5,64G 内存,飞牛 NAS;测试时两台虚拟机都开着。
- 单张 RTX 4080 SUPER 魔改 32G,分别测试锁 250W 和恢复默认 320W 功耗上限。
- ComfyUI 0.43.0、PyTorch 2.9.1+cu130、NVIDIA 驱动 580.142。
- H3 fused Turbo INT8,权重约 19.54 GiB;Qwen3-VL NVFP4 文本编码器约 14.61 GiB。
- 图生视频,832×480、124 帧、24 fps、8 步,seed 145。采样器
res_multistep,调度simple,视频 / 音频 shift 12 / 3。 - 普通 PyTorch 注意力和 H3 SLA 稀疏注意力都测了。SLA 设置是稀疏率 0.9、block 64、最小序列长度 8192,并保护音频。
两档功耗用的是同一张首帧、同样的提示词、模型和参数,工作流除了输入文件名和输出名之外逐项一致。每组正式规格热机跑两轮,采样节点每次都实际执行,没有拿缓存结果充数。
提示词是:
A woman stands on a rain-soaked city street. She slowly turns her head and moves gently as rain falls and neon reflections shimmer. Smooth natural motion, single continuous shot.首帧我没有公开;换一张图,画面和耗时也可能不同。250W 和 320W,先看出片
注意力 / GPU 功耗上限 每步,两轮 出片,两轮 普通 PyTorch,250W 5.99 / 5.98 秒 59.82 / 59.53 秒 普通 PyTorch,320W 5.51 / 5.50 秒 55.16 / 55.26 秒 SLA 稀疏,250W 3.21 / 3.19 秒 36.48 / 36.00 秒 SLA 稀疏,320W 2.84 / 2.83 秒 32.70 / 32.44 秒 每步按第 2~7 步取平均,出片时间从提交任务算到保存完成。成片实际核对过,是 5.17 秒、124 帧。
同一档功耗下,SLA 确实比普通注意力快:250W 平均 36.24 秒对 59.67 秒,320W 平均 32.57 秒对 55.21 秒。但两个后端的画面并不完全一样,后面会说。
单卡锁 250W,和坛友的双 W7900 放一起
原帖作者用两张 W7900,每张 48GB,只把 DiT 做 TP2;文本编码器和 VAE 没有参加并行。作者报告的数据是:
原帖方案 每步 端到端 单 W7900,SDPA 18.6 秒 201.3 秒 双 W7900,SDPA 8.3 秒 134.1 秒 单 W7900,CK 12.8 秒 原帖未在表中列出 双 W7900,CK 7.7 秒 约 128 秒 只看两套方案的出片数字,我这张 单卡锁 250W 的 4080S:普通注意力平均 59.7 秒 ,原帖双卡 SDPA 是 134.1 秒 ;SLA 平均 36.2 秒 ,原帖双卡 CK 约 128 秒 。两组出片时间的比值分别约 2.25 倍和 3.53 倍。

数字摆在这里,但话得说清楚:原帖没公开首帧、提示词、精确权重和完整工作流。我用的是自己的首帧和 fused Turbo INT8 / NVFP4,原帖是 PDD 蒸馏 INT8 和约 26G 的文本编码器;注意力后端也不同。原帖双卡计时还要等两个实例都出片。这是两套方案的结果对照,不能把时间比当成显卡硬件算力比。
功耗也一样。我这张卡是 锁 250W 上限 ,任务期间 GPU 实际平均功率:普通注意力约 228W,SLA 约 223W。AMD 官方规格里 W7900 是每张 295W 板卡功耗,两张规格相加 590W。即使按规格打 85 折估算,双卡也约 502W (590W × 85% = 501.5W);不过原帖没给实测功耗,这个只是计算假设,不能冒充人家实际跑片的用电。

能省,也要性能
250W 提到 320W,SLA 的 GPU 实际平均功率约 223W → 281W,多了 26.0% ;按 124 帧除以出片时间计算,等效产出约 3.42 → 3.81 帧/秒,增加 11.3% 。
普通注意力也是类似情况:实际平均功率增加约 19.2%,等效产出增加约 8.1%。多用的功率确实换来了速度,但没有等比例换回来。

图里的橙色虚线是一个假设:如果产出也跟实际功率一样增加 26%,会到约 4.31 帧/秒;实测是 3.81。它只是比较用的参考,不是额外实测,也不是硬件性能承诺。纵轴从 90 开始,只连接两档端点,中间档位没有用这组参数测过。
跑一段视频,显卡用了多少电?
方案 GPU 功耗上限 实测 GPU 平均功率 每段约 5.17 秒显卡耗电 SLA 250 瓦 223 瓦 约 0.00225 度 SLA 320 瓦 281 瓦 约 0.00254 度 普通注意力 250 瓦 228 瓦 约 0.00378 度 普通注意力 320 瓦 272 瓦 约 0.00416 度 怎么算的:GPU 功率约每 0.5 秒采样一次,从提交到保存完成做近似积分。表里只是 GPU 跑这段任务的耗电估算 ,不含 CPU、其他硬件、整机电源损耗、待机和冷启动。边界用最近的采样点估算;两档分别测试,并非随机交替。
250W 的 SLA 每片比 320W 慢约 3.7 秒,但每帧 GPU 能耗低约 11.7%;普通注意力慢约 4.5 秒,每帧能耗低约 9.3%。
要是按短片长度等比例折算成 60 秒视频 ,我这边 SLA 的 GPU 耗电:250 瓦档约 0.0261 度 ,320 瓦档约 0.0295 度 。
坛友没有公布 W7900 的实际功耗。如果假设双卡在原帖约 128 秒出片期间全程耗电约 502 瓦,同样按短片长度折算,GPU 约 0.2071 度 。这个数是基于假设的粗算,不是实测,不能拿来当硬件同条件能效对比。
这些都是用 124 帧(约 5.17 秒)短片线性折算, 不是已经实测生成了一段 60 秒视频 。也没算分段衔接、帧重叠、失败重跑、冷启动或整机其他部分的电耗。没有整机插座功率记录,所以目前不能算出 PC 的实际总耗电。


风扇噪音体感
速度测完,我又用普通注意力补跑了四轮:先 250W 两轮,再 320W 两轮。下面是 GPU 利用率不低于 50% 时,显卡驱动报告的风扇通道 0:
功耗上限 两轮峰值转速 高负载末尾约 10 秒平均转速 GPU 温度峰值 250W 2,586 / 2,293 rpm 2,576 / 2,268 rpm 65 / 63°C 320W 3,813 / 3,577 rpm 3,781 / 3,533 rpm 66 / 66°C 按我这台机器的听感:2,500 转以下就是普通台式机;2,800 转开始比较吵,3,500 转很吵,3,800 转以上就是狂吵。250W 有一轮峰值 2,586 转,略过了 2,500;320W 两轮到了 3,813 和 3,577 转。
这是我个人的听感,不是通用噪音标准。我没有测环境分贝;测试顺序也不是随机的,温度和前一轮状态会影响风扇转速。驱动另一个风扇通道返回 0,不能靠这个判断实体风扇数量或状态。

显存和画面
我这里约每 0.5 秒采一次 GPU 整卡显存。四组正式测试的采样期峰值都是 30,531 MiB,约 29.8 GiB;全流程峰值最高 31,043 MiB,约 30.3 GiB。这个是整卡占用,不是单独的模型大小。两台虚拟机都开着,正式测试期间系统可用内存最低约 12.4 GiB。
原帖作者报告单 W7900 采样期为 23.5 GiB;双卡 TP2 后分别为 12.9 / 13.2 GiB。双卡省的是每张卡的占用;两边模型、编码器量化和采集接口不同,不拿来排显存效率名次。

同一注意力模式下,250W 和 320W 的成片解码后 124 帧逐帧校验一致;我只核对了画面,音频没有逐样本对比。MP4 文件哈希不同,也不能直接拿文件哈希判断画面不同。
换注意力后画面就不完全一样了。同一首帧和 seed,320W 普通注意力与 SLA 的成片,用 FFmpeg 计算 124 帧的平均 PSNR 约 15.27 dB。这个值说明像素有差异,不能单靠它判断哪段更好看。原帖的 25.5 dB 比较的是单卡和 TP2,不是同一个比较,不能横着排名。
冷启动和一点限制
上面完整规格的成绩都是热机。250W 首次启动时先跑了 416×256、22 帧、2 步的小样,约 422 秒;320W 那次小样约 426 秒。这里包含首次加载和小样执行,不是完整 124 帧视频的冷启动时间。
两边素材、模型和工作流不完全一样,我无法严格复现原帖;本机每档每种后端只有两轮,没测环境分贝,也没做随机交替。原帖的双卡数字是作者自报,不能凭两套方案的时间差,断言单张 4080S 的硬件算力强过两张 W7900。
就我自己家里这台来说, 能省又要性能 :250W 跑 H3 还是挺快,风扇没必要为了快几秒一直往高处转。机器放家里一个角落,随意折腾,能跑就行。
本地 AI 我会继续玩,云端也照样用。先把东西跑起来,碰到问题再一点点调,慢慢把这些本事攒在自己手里。
本文由 Hermes Agent 辅助测试和整理;4080S 数据来自本机实测,W7900 数据来自坛友原帖。
关键词:MiniMax H3、RTX 4080S、ComfyUI、视频生成、本地模型。
-
看了老特的吐槽,我全面支持他。本地 AI 是自己的未来,该学、该折腾的东西得掌握在自己手里。云端我也用,按任务选,两者本来就不冲突。
我这台机器也没什么讲究,放在家里一个角落。随意就是真理,能跑就是硬道理

当然,随意归随意,风扇在家里嗷嗷叫,我耳朵也受不了。我也想看看多耗的电到底换来多少性能。正好看到坛友双 W7900 跑 H3 的帖子,就拿自己的卡照着规格跑了一遍。
先说我的结论:这次 H3 测试里,250W 是我喜欢的甜点档。能省电、风扇转得低一些,性能也没丢多少。这次只测了 250W 和 320W,不能说 250W 是所有任务和所有档位的绝对最优。
机器和参数
- HP Z240 Tower,Xeon E3-1260L v5,64G 内存,飞牛 NAS;测试时两台虚拟机都开着。
- 单张 RTX 4080 SUPER 魔改 32G,分别测试锁 250W 和恢复默认 320W 功耗上限。
- ComfyUI 0.43.0、PyTorch 2.9.1+cu130、NVIDIA 驱动 580.142。
- H3 fused Turbo INT8,权重约 19.54 GiB;Qwen3-VL NVFP4 文本编码器约 14.61 GiB。
- 图生视频,832×480、124 帧、24 fps、8 步,seed 145。采样器
res_multistep,调度simple,视频 / 音频 shift 12 / 3。 - 普通 PyTorch 注意力和 H3 SLA 稀疏注意力都测了。SLA 设置是稀疏率 0.9、block 64、最小序列长度 8192,并保护音频。
两档功耗用的是同一张首帧、同样的提示词、模型和参数,工作流除了输入文件名和输出名之外逐项一致。每组正式规格热机跑两轮,采样节点每次都实际执行,没有拿缓存结果充数。
提示词是:
A woman stands on a rain-soaked city street. She slowly turns her head and moves gently as rain falls and neon reflections shimmer. Smooth natural motion, single continuous shot.首帧我没有公开;换一张图,画面和耗时也可能不同。250W 和 320W,先看出片
注意力 / GPU 功耗上限 每步,两轮 出片,两轮 普通 PyTorch,250W 5.99 / 5.98 秒 59.82 / 59.53 秒 普通 PyTorch,320W 5.51 / 5.50 秒 55.16 / 55.26 秒 SLA 稀疏,250W 3.21 / 3.19 秒 36.48 / 36.00 秒 SLA 稀疏,320W 2.84 / 2.83 秒 32.70 / 32.44 秒 每步按第 2~7 步取平均,出片时间从提交任务算到保存完成。成片实际核对过,是 5.17 秒、124 帧。
同一档功耗下,SLA 确实比普通注意力快:250W 平均 36.24 秒对 59.67 秒,320W 平均 32.57 秒对 55.21 秒。但两个后端的画面并不完全一样,后面会说。
单卡锁 250W,和坛友的双 W7900 放一起
原帖作者用两张 W7900,每张 48GB,只把 DiT 做 TP2;文本编码器和 VAE 没有参加并行。作者报告的数据是:
原帖方案 每步 端到端 单 W7900,SDPA 18.6 秒 201.3 秒 双 W7900,SDPA 8.3 秒 134.1 秒 单 W7900,CK 12.8 秒 原帖未在表中列出 双 W7900,CK 7.7 秒 约 128 秒 只看两套方案的出片数字,我这张 单卡锁 250W 的 4080S:普通注意力平均 59.7 秒 ,原帖双卡 SDPA 是 134.1 秒 ;SLA 平均 36.2 秒 ,原帖双卡 CK 约 128 秒 。两组出片时间的比值分别约 2.25 倍和 3.53 倍。

数字摆在这里,但话得说清楚:原帖没公开首帧、提示词、精确权重和完整工作流。我用的是自己的首帧和 fused Turbo INT8 / NVFP4,原帖是 PDD 蒸馏 INT8 和约 26G 的文本编码器;注意力后端也不同。原帖双卡计时还要等两个实例都出片。这是两套方案的结果对照,不能把时间比当成显卡硬件算力比。
功耗也一样。我这张卡是 锁 250W 上限 ,任务期间 GPU 实际平均功率:普通注意力约 228W,SLA 约 223W。AMD 官方规格里 W7900 是每张 295W 板卡功耗,两张规格相加 590W。即使按规格打 85 折估算,双卡也约 502W (590W × 85% = 501.5W);不过原帖没给实测功耗,这个只是计算假设,不能冒充人家实际跑片的用电。

能省,也要性能
250W 提到 320W,SLA 的 GPU 实际平均功率约 223W → 281W,多了 26.0% ;按 124 帧除以出片时间计算,等效产出约 3.42 → 3.81 帧/秒,增加 11.3% 。
普通注意力也是类似情况:实际平均功率增加约 19.2%,等效产出增加约 8.1%。多用的功率确实换来了速度,但没有等比例换回来。

图里的橙色虚线是一个假设:如果产出也跟实际功率一样增加 26%,会到约 4.31 帧/秒;实测是 3.81。它只是比较用的参考,不是额外实测,也不是硬件性能承诺。纵轴从 90 开始,只连接两档端点,中间档位没有用这组参数测过。
跑一段视频,显卡用了多少电?
方案 GPU 功耗上限 实测 GPU 平均功率 每段约 5.17 秒显卡耗电 SLA 250 瓦 223 瓦 约 0.00225 度 SLA 320 瓦 281 瓦 约 0.00254 度 普通注意力 250 瓦 228 瓦 约 0.00378 度 普通注意力 320 瓦 272 瓦 约 0.00416 度 怎么算的:GPU 功率约每 0.5 秒采样一次,从提交到保存完成做近似积分。表里只是 GPU 跑这段任务的耗电估算 ,不含 CPU、其他硬件、整机电源损耗、待机和冷启动。边界用最近的采样点估算;两档分别测试,并非随机交替。
250W 的 SLA 每片比 320W 慢约 3.7 秒,但每帧 GPU 能耗低约 11.7%;普通注意力慢约 4.5 秒,每帧能耗低约 9.3%。
要是按短片长度等比例折算成 60 秒视频 ,我这边 SLA 的 GPU 耗电:250 瓦档约 0.0261 度 ,320 瓦档约 0.0295 度 。
坛友没有公布 W7900 的实际功耗。如果假设双卡在原帖约 128 秒出片期间全程耗电约 502 瓦,同样按短片长度折算,GPU 约 0.2071 度 。这个数是基于假设的粗算,不是实测,不能拿来当硬件同条件能效对比。
这些都是用 124 帧(约 5.17 秒)短片线性折算, 不是已经实测生成了一段 60 秒视频 。也没算分段衔接、帧重叠、失败重跑、冷启动或整机其他部分的电耗。没有整机插座功率记录,所以目前不能算出 PC 的实际总耗电。


风扇噪音体感
速度测完,我又用普通注意力补跑了四轮:先 250W 两轮,再 320W 两轮。下面是 GPU 利用率不低于 50% 时,显卡驱动报告的风扇通道 0:
功耗上限 两轮峰值转速 高负载末尾约 10 秒平均转速 GPU 温度峰值 250W 2,586 / 2,293 rpm 2,576 / 2,268 rpm 65 / 63°C 320W 3,813 / 3,577 rpm 3,781 / 3,533 rpm 66 / 66°C 按我这台机器的听感:2,500 转以下就是普通台式机;2,800 转开始比较吵,3,500 转很吵,3,800 转以上就是狂吵。250W 有一轮峰值 2,586 转,略过了 2,500;320W 两轮到了 3,813 和 3,577 转。
这是我个人的听感,不是通用噪音标准。我没有测环境分贝;测试顺序也不是随机的,温度和前一轮状态会影响风扇转速。驱动另一个风扇通道返回 0,不能靠这个判断实体风扇数量或状态。

显存和画面
我这里约每 0.5 秒采一次 GPU 整卡显存。四组正式测试的采样期峰值都是 30,531 MiB,约 29.8 GiB;全流程峰值最高 31,043 MiB,约 30.3 GiB。这个是整卡占用,不是单独的模型大小。两台虚拟机都开着,正式测试期间系统可用内存最低约 12.4 GiB。
原帖作者报告单 W7900 采样期为 23.5 GiB;双卡 TP2 后分别为 12.9 / 13.2 GiB。双卡省的是每张卡的占用;两边模型、编码器量化和采集接口不同,不拿来排显存效率名次。

同一注意力模式下,250W 和 320W 的成片解码后 124 帧逐帧校验一致;我只核对了画面,音频没有逐样本对比。MP4 文件哈希不同,也不能直接拿文件哈希判断画面不同。
换注意力后画面就不完全一样了。同一首帧和 seed,320W 普通注意力与 SLA 的成片,用 FFmpeg 计算 124 帧的平均 PSNR 约 15.27 dB。这个值说明像素有差异,不能单靠它判断哪段更好看。原帖的 25.5 dB 比较的是单卡和 TP2,不是同一个比较,不能横着排名。
冷启动和一点限制
上面完整规格的成绩都是热机。250W 首次启动时先跑了 416×256、22 帧、2 步的小样,约 422 秒;320W 那次小样约 426 秒。这里包含首次加载和小样执行,不是完整 124 帧视频的冷启动时间。
两边素材、模型和工作流不完全一样,我无法严格复现原帖;本机每档每种后端只有两轮,没测环境分贝,也没做随机交替。原帖的双卡数字是作者自报,不能凭两套方案的时间差,断言单张 4080S 的硬件算力强过两张 W7900。
就我自己家里这台来说, 能省又要性能 :250W 跑 H3 还是挺快,风扇没必要为了快几秒一直往高处转。机器放家里一个角落,随意折腾,能跑就行。
本地 AI 我会继续玩,云端也照样用。先把东西跑起来,碰到问题再一点点调,慢慢把这些本事攒在自己手里。
本文由 Hermes Agent 辅助测试和整理;4080S 数据来自本机实测,W7900 数据来自坛友原帖。
关键词:MiniMax H3、RTX 4080S、ComfyUI、视频生成、本地模型。
@Takano-RR 涡轮卡么?
-
-
-


-
@Bunsei 用你这套规格跑了一轮,4080S 32G 的数字:
规格:1376×768(约 1.03MP)、226 帧、9.4 秒、4 步 SLA
- 冷启动(含模型加载):521 秒
- 热机:119 秒
- 显存峰值:30.8G(32G 基本顶满)
拆开看:模型加载 215 秒,4 步采样 108 秒,其余是文本编码和 VAE 解码。
说明:我这边跑的是同规格的纯生成(简化提示词),没接你那套 5 参考图 + 动作视频 + 音频的完整 Ref2VA 流程。所以你那个 9.17 秒的成片要完整复现的话,还要加上参考编码时间,估计热机 2 分半到 3 分钟一条。
附一条同规格生成的样片,只用来参考速度,提示词是简化的,画面不代表你那套素材的效果。
-
@Bunsei 更正一下上面那条:那个"热机 2 分半到 3 分钟"是我估的,实测根本跑不通。
按你这套 Ref2VA 跑(ref2va_pruned_w4a8 + 32B 视觉编码器),4080S 32G 的实际结果:
- 1376×768 × 226 帧:OOM
- 944×544 × 226 帧:OOM
- 768×432 × 226 帧:OOM
- 512×288 × 226 帧(9.4 秒):能跑,冷启动 316 秒
- 512×288 × 362 帧(15 秒):OOM
显存报错原文是 "Need: 23.9GB free, Have: 3.5GB free"。
试过换 8B 编码器省显存,也不行:ref2va 要求 32B 的 5120 维,8B 只有 4096 维,直接维度不匹配。
所以结论是:4080S 32G 跑 Ref2VA,一次最多大约 0.15MP / 9.4 秒。你那个 1MP 9.17 秒的成片,这张卡复现不了。
上面那条纯生成的 1MP 数据(冷 521 秒 / 热 119 秒)是另一回事:不接参考图能跑 1MP,一加参考编码就装不下了。
-
@Bunsei 更正一下上面那条:那个"热机 2 分半到 3 分钟"是我估的,实测根本跑不通。
按你这套 Ref2VA 跑(ref2va_pruned_w4a8 + 32B 视觉编码器),4080S 32G 的实际结果:
- 1376×768 × 226 帧:OOM
- 944×544 × 226 帧:OOM
- 768×432 × 226 帧:OOM
- 512×288 × 226 帧(9.4 秒):能跑,冷启动 316 秒
- 512×288 × 362 帧(15 秒):OOM
显存报错原文是 "Need: 23.9GB free, Have: 3.5GB free"。
试过换 8B 编码器省显存,也不行:ref2va 要求 32B 的 5120 维,8B 只有 4096 维,直接维度不匹配。
所以结论是:4080S 32G 跑 Ref2VA,一次最多大约 0.15MP / 9.4 秒。你那个 1MP 9.17 秒的成片,这张卡复现不了。
上面那条纯生成的 1MP 数据(冷 521 秒 / 热 119 秒)是另一回事:不接参考图能跑 1MP,一加参考编码就装不下了。
-
-
@Takano-RR 如果允许内存的话应该能生成出来,但是时间就久了。这是在Windows下跑的吗?
-
咱们可以试试这个大概 1MP 生成的速度吗? 很想知道4080的生成速度大概是多快。
咱们可以试试这个大概 1MP 生成的速度吗? 很想知道4080的生成速度大概是多快。
抄 2582 的第二组:同一套"宇宙公交站"素材,双 7900XTX(自建 TP2)和单张 4080S 各跑一遍全程
0x00 缘起
楼主第二组用的"宇宙公交站"素材包(5 张角色图 + 一段动作参考视频 + 原声),我们拿过来按同口径重跑了全程:832×480(0.399MP)、124 帧、20 步 Euler、seed 145、不用加速 LoRA、参考条件与初始噪声共享。手上正好有两台机器,一台 AMD 双卡、一台 N 卡单卡,分段计时都记下来了。
先说结论:单张 4080S 比我们的双 7900XTX 快 2.04 倍(10 分 36 秒 vs 5 分 12 秒)。
0x01 两台机器的配置
机器 A(AMD 双卡,自建 TP2):
项目 配置 主板 / CPU ASRock X570 ACE / Ryzen 5 3500X(6C6T,无 SMT) 内存 94 GB GPU 2 × RX 7900 XTX 24G,拆 x8/x8(实测各 14.2 GB/s,不因第二张卡掉速) P2P 开(BIOS 开 IOMMU + 内核 iommu=pt)系统 / 内核 Ubuntu 24.04.5 / 7.0.0-38-generic ROCm / torch ROCm 7.2.3 / torch 2.12.1+rocm7.2(hip 7.2.53211) ComfyUI 0.39.0 跑法 自建 TP2 脚本:每卡装半宽模型,100 个行并行层自己做 int8( _int_mm),列并行保留 ck 算子,--use-ck-attention机器 B(N 卡单卡,标准路径):
项目 配置 CPU Ryzen 7 9700X(8C16T) 内存 92 GB GPU RTX 4080 SUPER 32G 驱动 / 内核 595.99.02 / 7.0.0-38-generic CUDA / torch CUDA 13.0 / torch 2.13.0+cu130 ComfyUI 0.39.0 跑法 上游 h3_comfy_benchmark.py,标准单卡路径,不加任何补丁两边用的是同一个 checkpoint 文件:
minimax_h3_ref2va_pruned_fp8_scaled.safetensors,20,958,205,608 字节,日期都一样。0x02 成绩
段 双 7900XTX(TP2) 单张 4080S 楼主(双 R9700,Radiance 原生) 预处理(VAE 编码 + Qwen3-VL-32B 条件) 141 s 38 s ~5 分钟 采样 20 步 438.3 s(20.4 → 22.8 s/步) 255.8 s(12.40 s/步) — VAE 解码 + 合成 33 s 12.0 s — 合计 636 s = 10 分 36 秒 312 s = 5 分 12 秒 15 分 35 秒 预处理这一段两台差了近 4 倍(141s vs 38s),跟楼主账上"预处理走单卡 PyTorch 路径"那个观察是同一件事,只是 N 卡那边明显更不吃这一项。
0x03 逐步曲线(这个差别挺有意思)
机器 A(双 XTX)20 步,单位秒:
23.05, 20.39, 20.58, 20.69, 20.84, 20.89, 21.12, 21.38, 21.56, 21.73, 21.86, 22.03, 22.11, 22.18, 22.29, 22.37, 22.49, 22.56, 22.64, 22.81首步之后单调上升,到第 20 步涨了 12%,不是随机抖动,是热/功耗漂移。
机器 B(4080S)20 步全在 12.399 ~ 12.408 之间,基本一条直线。
0x04 一个必须说清的事:同 seed 不跨后端复现
两台出来的不是同一个画面——两段成片对拍 PSNR 只有 15.6 dB。seed 一样、素材一样、checkpoint 一样,但采样路径的数值实现不同(我们 TP2 是自建 int8 行并行,N 卡是标准 fp8 路径),20 步下来就分叉了。
所以上面那张表只能比时间,不能比画质;两台各自的效果请各自看成片。
0x05 为什么单卡 4080S 反而快(推断,没逐项隔离)
按可能的贡献排序:
- FP8:checkpoint 是
fp8_scaled。Ada 有 FP8 Tensor Core,gfx1100 没有 FP8 硬件,只能反量化成 fp16/bf16 再算。 - TP 通信:我们每个 block 一次 all_reduce(100 个行并行层),走 PCIe x8/x8(各 14.2 GB/s)。单卡完全没有这笔开销。
- 主机差一档:3500X 6C6T 对 9700X 8C16T。
- 热漂移:XTX 这对 +12%,4080S 全程死平。
要坐实的话,下一步是在 8.147 上把 TP2 的 all_reduce 单独计时,再用同一份 int8 版 ref2va 跑一遍,把"FP8"和"通信"两项拆开。现在这版结论请当测量结果 + 未验证的解释看。
0x06 顺手踩到的两个坑,抄的人可以直接避开
第一个:VAE 解码 OOM,根因不是显存不够,是没带
--use-ck-attention。 24G 卡上解 832×480×148 帧会炸,PyTorch 只报了 4.87GB 但卡上只剩 30MB——VAE 解码器里的注意力块用朴素实现,256×256 的 tile 就是 6.5 万 token 的注意力矩阵,20GB 是它吃掉的。带上 ck-attention 之后解码 19.4 秒。我们试过小 tile(256→128)、时间块切小、按时间/空间切两半、MIOpen FIND_MODE、expandable_segments、强制/不强制全载入——全部无效,别浪费时间。第二个:跑过被 OOM 杀掉的 GPU 进程之后,amdgpu 会扣住主机内存不还。 我们这边连续几个解码进程被杀之后,空载 37GB 不在任何进程、不在缓存、不在 slab、不在 GTT 里,模型加载直接开始疯狂换页(302 秒还没起来)。
modprobe -r amdgpu的瞬间 MemFree 从 62.2GB 跳到 97.4GB,重新起就是 42 秒。双卡跑完 GPU 任务,起模型之前先看一眼MemAvailable,不够就把驱动卸了重载(前提是别让桌面会话占着卡,否则卸不掉)。 - FP8:checkpoint 是
版主审定:本帖设为优秀,作者 +3 积分奖励,继续加油!