跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 显卡努力干活,我的耳朵优雅上班:4080S 32G 的 250W H3 甜点功耗实测

显卡努力干活,我的耳朵优雅上班:4080S 32G 的 250W H3 甜点功耗实测

已定时 已固定 已锁定 已移动 优秀 AI硬件
rtx4080sminimax
11 帖子 6 发布者 555 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Takano RRT
    Takano RRT
    Takano RR
    体面乡绅
    编写于 最后由 编辑
    #1

    看了老特的吐槽,我全面支持他。本地 AI 是自己的未来,该学、该折腾的东西得掌握在自己手里。云端我也用,按任务选,两者本来就不冲突。

    我这台机器也没什么讲究,放在家里一个角落。随意就是真理,能跑就是硬道理 😄

    当然,随意归随意,风扇在家里嗷嗷叫,我耳朵也受不了。我也想看看多耗的电到底换来多少性能。正好看到坛友双 W7900 跑 H3 的帖子,就拿自己的卡照着规格跑了一遍。

    先说我的结论:这次 H3 测试里,250W 是我喜欢的甜点档。能省电、风扇转得低一些,性能也没丢多少。这次只测了 250W 和 320W,不能说 250W 是所有任务和所有档位的绝对最优。

    机器和参数

    • HP Z240 Tower,Xeon E3-1260L v5,64G 内存,飞牛 NAS;测试时两台虚拟机都开着。
    • 单张 RTX 4080 SUPER 魔改 32G,分别测试锁 250W 和恢复默认 320W 功耗上限。
    • ComfyUI 0.43.0、PyTorch 2.9.1+cu130、NVIDIA 驱动 580.142。
    • H3 fused Turbo INT8,权重约 19.54 GiB;Qwen3-VL NVFP4 文本编码器约 14.61 GiB。
    • 图生视频,832×480、124 帧、24 fps、8 步,seed 145。采样器 res_multistep,调度 simple,视频 / 音频 shift 12 / 3。
    • 普通 PyTorch 注意力和 H3 SLA 稀疏注意力都测了。SLA 设置是稀疏率 0.9、block 64、最小序列长度 8192,并保护音频。

    两档功耗用的是同一张首帧、同样的提示词、模型和参数,工作流除了输入文件名和输出名之外逐项一致。每组正式规格热机跑两轮,采样节点每次都实际执行,没有拿缓存结果充数。

    提示词是:A woman stands on a rain-soaked city street. She slowly turns her head and moves gently as rain falls and neon reflections shimmer. Smooth natural motion, single continuous shot. 首帧我没有公开;换一张图,画面和耗时也可能不同。

    250W 和 320W,先看出片

    注意力 / GPU 功耗上限 每步,两轮 出片,两轮
    普通 PyTorch,250W 5.99 / 5.98 秒 59.82 / 59.53 秒
    普通 PyTorch,320W 5.51 / 5.50 秒 55.16 / 55.26 秒
    SLA 稀疏,250W 3.21 / 3.19 秒 36.48 / 36.00 秒
    SLA 稀疏,320W 2.84 / 2.83 秒 32.70 / 32.44 秒

    每步按第 2~7 步取平均,出片时间从提交任务算到保存完成。成片实际核对过,是 5.17 秒、124 帧。

    同一档功耗下,SLA 确实比普通注意力快:250W 平均 36.24 秒对 59.67 秒,320W 平均 32.57 秒对 55.21 秒。但两个后端的画面并不完全一样,后面会说。

    单卡锁 250W,和坛友的双 W7900 放一起

    原帖作者用两张 W7900,每张 48GB,只把 DiT 做 TP2;文本编码器和 VAE 没有参加并行。作者报告的数据是:

    原帖方案 每步 端到端
    单 W7900,SDPA 18.6 秒 201.3 秒
    双 W7900,SDPA 8.3 秒 134.1 秒
    单 W7900,CK 12.8 秒 原帖未在表中列出
    双 W7900,CK 7.7 秒 约 128 秒

    只看两套方案的出片数字,我这张 单卡锁 250W 的 4080S:普通注意力平均 59.7 秒 ,原帖双卡 SDPA 是 134.1 秒 ;SLA 平均 36.2 秒 ,原帖双卡 CK 约 128 秒 。两组出片时间的比值分别约 2.25 倍和 3.53 倍。

    单张 4080S 锁 250W,与双 W7900 的出片对照

    数字摆在这里,但话得说清楚:原帖没公开首帧、提示词、精确权重和完整工作流。我用的是自己的首帧和 fused Turbo INT8 / NVFP4,原帖是 PDD 蒸馏 INT8 和约 26G 的文本编码器;注意力后端也不同。原帖双卡计时还要等两个实例都出片。这是两套方案的结果对照,不能把时间比当成显卡硬件算力比。

    功耗也一样。我这张卡是 锁 250W 上限 ,任务期间 GPU 实际平均功率:普通注意力约 228W,SLA 约 223W。AMD 官方规格里 W7900 是每张 295W 板卡功耗,两张规格相加 590W。即使按规格打 85 折估算,双卡也约 502W (590W × 85% = 501.5W);不过原帖没给实测功耗,这个只是计算假设,不能冒充人家实际跑片的用电。

    双方每步速度,条件已注明

    能省,也要性能

    250W 提到 320W,SLA 的 GPU 实际平均功率约 223W → 281W,多了 26.0% ;按 124 帧除以出片时间计算,等效产出约 3.42 → 3.81 帧/秒,增加 11.3% 。

    普通注意力也是类似情况:实际平均功率增加约 19.2%,等效产出增加约 8.1%。多用的功率确实换来了速度,但没有等比例换回来。

    等比例参考产出与实际产出的差距

    图里的橙色虚线是一个假设:如果产出也跟实际功率一样增加 26%,会到约 4.31 帧/秒;实测是 3.81。它只是比较用的参考,不是额外实测,也不是硬件性能承诺。纵轴从 90 开始,只连接两档端点,中间档位没有用这组参数测过。

    跑一段视频,显卡用了多少电?

    方案 GPU 功耗上限 实测 GPU 平均功率 每段约 5.17 秒显卡耗电
    SLA 250 瓦 223 瓦 约 0.00225 度
    SLA 320 瓦 281 瓦 约 0.00254 度
    普通注意力 250 瓦 228 瓦 约 0.00378 度
    普通注意力 320 瓦 272 瓦 约 0.00416 度

    怎么算的:GPU 功率约每 0.5 秒采样一次,从提交到保存完成做近似积分。表里只是 GPU 跑这段任务的耗电估算 ,不含 CPU、其他硬件、整机电源损耗、待机和冷启动。边界用最近的采样点估算;两档分别测试,并非随机交替。

    250W 的 SLA 每片比 320W 慢约 3.7 秒,但每帧 GPU 能耗低约 11.7%;普通注意力慢约 4.5 秒,每帧能耗低约 9.3%。

    要是按短片长度等比例折算成 60 秒视频 ,我这边 SLA 的 GPU 耗电:250 瓦档约 0.0261 度 ,320 瓦档约 0.0295 度 。

    坛友没有公布 W7900 的实际功耗。如果假设双卡在原帖约 128 秒出片期间全程耗电约 502 瓦,同样按短片长度折算,GPU 约 0.2071 度 。这个数是基于假设的粗算,不是实测,不能拿来当硬件同条件能效对比。

    这些都是用 124 帧(约 5.17 秒)短片线性折算, 不是已经实测生成了一段 60 秒视频 。也没算分段衔接、帧重叠、失败重跑、冷启动或整机其他部分的电耗。没有整机插座功率记录,所以目前不能算出 PC 的实际总耗电。

    60 秒视频显卡耗电粗算,非整机

    250W / 320W 实测功率曲线

    风扇噪音体感

    速度测完,我又用普通注意力补跑了四轮:先 250W 两轮,再 320W 两轮。下面是 GPU 利用率不低于 50% 时,显卡驱动报告的风扇通道 0:

    功耗上限 两轮峰值转速 高负载末尾约 10 秒平均转速 GPU 温度峰值
    250W 2,586 / 2,293 rpm 2,576 / 2,268 rpm 65 / 63°C
    320W 3,813 / 3,577 rpm 3,781 / 3,533 rpm 66 / 66°C

    按我这台机器的听感:2,500 转以下就是普通台式机;2,800 转开始比较吵,3,500 转很吵,3,800 转以上就是狂吵。250W 有一轮峰值 2,586 转,略过了 2,500;320W 两轮到了 3,813 和 3,577 转。

    这是我个人的听感,不是通用噪音标准。我没有测环境分贝;测试顺序也不是随机的,温度和前一轮状态会影响风扇转速。驱动另一个风扇通道返回 0,不能靠这个判断实体风扇数量或状态。

    风扇噪音体感与两档实测峰值

    显存和画面

    我这里约每 0.5 秒采一次 GPU 整卡显存。四组正式测试的采样期峰值都是 30,531 MiB,约 29.8 GiB;全流程峰值最高 31,043 MiB,约 30.3 GiB。这个是整卡占用,不是单独的模型大小。两台虚拟机都开着,正式测试期间系统可用内存最低约 12.4 GiB。

    原帖作者报告单 W7900 采样期为 23.5 GiB;双卡 TP2 后分别为 12.9 / 13.2 GiB。双卡省的是每张卡的占用;两边模型、编码器量化和采集接口不同,不拿来排显存效率名次。

    双方采样期每卡显存占用

    同一注意力模式下,250W 和 320W 的成片解码后 124 帧逐帧校验一致;我只核对了画面,音频没有逐样本对比。MP4 文件哈希不同,也不能直接拿文件哈希判断画面不同。

    换注意力后画面就不完全一样了。同一首帧和 seed,320W 普通注意力与 SLA 的成片,用 FFmpeg 计算 124 帧的平均 PSNR 约 15.27 dB。这个值说明像素有差异,不能单靠它判断哪段更好看。原帖的 25.5 dB 比较的是单卡和 TP2,不是同一个比较,不能横着排名。

    冷启动和一点限制

    上面完整规格的成绩都是热机。250W 首次启动时先跑了 416×256、22 帧、2 步的小样,约 422 秒;320W 那次小样约 426 秒。这里包含首次加载和小样执行,不是完整 124 帧视频的冷启动时间。

    两边素材、模型和工作流不完全一样,我无法严格复现原帖;本机每档每种后端只有两轮,没测环境分贝,也没做随机交替。原帖的双卡数字是作者自报,不能凭两套方案的时间差,断言单张 4080S 的硬件算力强过两张 W7900。

    就我自己家里这台来说, 能省又要性能 :250W 跑 H3 还是挺快,风扇没必要为了快几秒一直往高处转。机器放家里一个角落,随意折腾,能跑就行。

    本地 AI 我会继续玩,云端也照样用。先把东西跑起来,碰到问题再一点点调,慢慢把这些本事攒在自己手里。

    本文由 Hermes Agent 辅助测试和整理;4080S 数据来自本机实测,W7900 数据来自坛友原帖。

    关键词:MiniMax H3、RTX 4080S、ComfyUI、视频生成、本地模型。

    johnnybegoodJ 1 条回复 最后回复
    1
    • Takano RRT Takano RR

      看了老特的吐槽,我全面支持他。本地 AI 是自己的未来,该学、该折腾的东西得掌握在自己手里。云端我也用,按任务选,两者本来就不冲突。

      我这台机器也没什么讲究,放在家里一个角落。随意就是真理,能跑就是硬道理 😄

      当然,随意归随意,风扇在家里嗷嗷叫,我耳朵也受不了。我也想看看多耗的电到底换来多少性能。正好看到坛友双 W7900 跑 H3 的帖子,就拿自己的卡照着规格跑了一遍。

      先说我的结论:这次 H3 测试里,250W 是我喜欢的甜点档。能省电、风扇转得低一些,性能也没丢多少。这次只测了 250W 和 320W,不能说 250W 是所有任务和所有档位的绝对最优。

      机器和参数

      • HP Z240 Tower,Xeon E3-1260L v5,64G 内存,飞牛 NAS;测试时两台虚拟机都开着。
      • 单张 RTX 4080 SUPER 魔改 32G,分别测试锁 250W 和恢复默认 320W 功耗上限。
      • ComfyUI 0.43.0、PyTorch 2.9.1+cu130、NVIDIA 驱动 580.142。
      • H3 fused Turbo INT8,权重约 19.54 GiB;Qwen3-VL NVFP4 文本编码器约 14.61 GiB。
      • 图生视频,832×480、124 帧、24 fps、8 步,seed 145。采样器 res_multistep,调度 simple,视频 / 音频 shift 12 / 3。
      • 普通 PyTorch 注意力和 H3 SLA 稀疏注意力都测了。SLA 设置是稀疏率 0.9、block 64、最小序列长度 8192,并保护音频。

      两档功耗用的是同一张首帧、同样的提示词、模型和参数,工作流除了输入文件名和输出名之外逐项一致。每组正式规格热机跑两轮,采样节点每次都实际执行,没有拿缓存结果充数。

      提示词是:A woman stands on a rain-soaked city street. She slowly turns her head and moves gently as rain falls and neon reflections shimmer. Smooth natural motion, single continuous shot. 首帧我没有公开;换一张图,画面和耗时也可能不同。

      250W 和 320W,先看出片

      注意力 / GPU 功耗上限 每步,两轮 出片,两轮
      普通 PyTorch,250W 5.99 / 5.98 秒 59.82 / 59.53 秒
      普通 PyTorch,320W 5.51 / 5.50 秒 55.16 / 55.26 秒
      SLA 稀疏,250W 3.21 / 3.19 秒 36.48 / 36.00 秒
      SLA 稀疏,320W 2.84 / 2.83 秒 32.70 / 32.44 秒

      每步按第 2~7 步取平均,出片时间从提交任务算到保存完成。成片实际核对过,是 5.17 秒、124 帧。

      同一档功耗下,SLA 确实比普通注意力快:250W 平均 36.24 秒对 59.67 秒,320W 平均 32.57 秒对 55.21 秒。但两个后端的画面并不完全一样,后面会说。

      单卡锁 250W,和坛友的双 W7900 放一起

      原帖作者用两张 W7900,每张 48GB,只把 DiT 做 TP2;文本编码器和 VAE 没有参加并行。作者报告的数据是:

      原帖方案 每步 端到端
      单 W7900,SDPA 18.6 秒 201.3 秒
      双 W7900,SDPA 8.3 秒 134.1 秒
      单 W7900,CK 12.8 秒 原帖未在表中列出
      双 W7900,CK 7.7 秒 约 128 秒

      只看两套方案的出片数字,我这张 单卡锁 250W 的 4080S:普通注意力平均 59.7 秒 ,原帖双卡 SDPA 是 134.1 秒 ;SLA 平均 36.2 秒 ,原帖双卡 CK 约 128 秒 。两组出片时间的比值分别约 2.25 倍和 3.53 倍。

      单张 4080S 锁 250W,与双 W7900 的出片对照

      数字摆在这里,但话得说清楚:原帖没公开首帧、提示词、精确权重和完整工作流。我用的是自己的首帧和 fused Turbo INT8 / NVFP4,原帖是 PDD 蒸馏 INT8 和约 26G 的文本编码器;注意力后端也不同。原帖双卡计时还要等两个实例都出片。这是两套方案的结果对照,不能把时间比当成显卡硬件算力比。

      功耗也一样。我这张卡是 锁 250W 上限 ,任务期间 GPU 实际平均功率:普通注意力约 228W,SLA 约 223W。AMD 官方规格里 W7900 是每张 295W 板卡功耗,两张规格相加 590W。即使按规格打 85 折估算,双卡也约 502W (590W × 85% = 501.5W);不过原帖没给实测功耗,这个只是计算假设,不能冒充人家实际跑片的用电。

      双方每步速度,条件已注明

      能省,也要性能

      250W 提到 320W,SLA 的 GPU 实际平均功率约 223W → 281W,多了 26.0% ;按 124 帧除以出片时间计算,等效产出约 3.42 → 3.81 帧/秒,增加 11.3% 。

      普通注意力也是类似情况:实际平均功率增加约 19.2%,等效产出增加约 8.1%。多用的功率确实换来了速度,但没有等比例换回来。

      等比例参考产出与实际产出的差距

      图里的橙色虚线是一个假设:如果产出也跟实际功率一样增加 26%,会到约 4.31 帧/秒;实测是 3.81。它只是比较用的参考,不是额外实测,也不是硬件性能承诺。纵轴从 90 开始,只连接两档端点,中间档位没有用这组参数测过。

      跑一段视频,显卡用了多少电?

      方案 GPU 功耗上限 实测 GPU 平均功率 每段约 5.17 秒显卡耗电
      SLA 250 瓦 223 瓦 约 0.00225 度
      SLA 320 瓦 281 瓦 约 0.00254 度
      普通注意力 250 瓦 228 瓦 约 0.00378 度
      普通注意力 320 瓦 272 瓦 约 0.00416 度

      怎么算的:GPU 功率约每 0.5 秒采样一次,从提交到保存完成做近似积分。表里只是 GPU 跑这段任务的耗电估算 ,不含 CPU、其他硬件、整机电源损耗、待机和冷启动。边界用最近的采样点估算;两档分别测试,并非随机交替。

      250W 的 SLA 每片比 320W 慢约 3.7 秒,但每帧 GPU 能耗低约 11.7%;普通注意力慢约 4.5 秒,每帧能耗低约 9.3%。

      要是按短片长度等比例折算成 60 秒视频 ,我这边 SLA 的 GPU 耗电:250 瓦档约 0.0261 度 ,320 瓦档约 0.0295 度 。

      坛友没有公布 W7900 的实际功耗。如果假设双卡在原帖约 128 秒出片期间全程耗电约 502 瓦,同样按短片长度折算,GPU 约 0.2071 度 。这个数是基于假设的粗算,不是实测,不能拿来当硬件同条件能效对比。

      这些都是用 124 帧(约 5.17 秒)短片线性折算, 不是已经实测生成了一段 60 秒视频 。也没算分段衔接、帧重叠、失败重跑、冷启动或整机其他部分的电耗。没有整机插座功率记录,所以目前不能算出 PC 的实际总耗电。

      60 秒视频显卡耗电粗算,非整机

      250W / 320W 实测功率曲线

      风扇噪音体感

      速度测完,我又用普通注意力补跑了四轮:先 250W 两轮,再 320W 两轮。下面是 GPU 利用率不低于 50% 时,显卡驱动报告的风扇通道 0:

      功耗上限 两轮峰值转速 高负载末尾约 10 秒平均转速 GPU 温度峰值
      250W 2,586 / 2,293 rpm 2,576 / 2,268 rpm 65 / 63°C
      320W 3,813 / 3,577 rpm 3,781 / 3,533 rpm 66 / 66°C

      按我这台机器的听感:2,500 转以下就是普通台式机;2,800 转开始比较吵,3,500 转很吵,3,800 转以上就是狂吵。250W 有一轮峰值 2,586 转,略过了 2,500;320W 两轮到了 3,813 和 3,577 转。

      这是我个人的听感,不是通用噪音标准。我没有测环境分贝;测试顺序也不是随机的,温度和前一轮状态会影响风扇转速。驱动另一个风扇通道返回 0,不能靠这个判断实体风扇数量或状态。

      风扇噪音体感与两档实测峰值

      显存和画面

      我这里约每 0.5 秒采一次 GPU 整卡显存。四组正式测试的采样期峰值都是 30,531 MiB,约 29.8 GiB;全流程峰值最高 31,043 MiB,约 30.3 GiB。这个是整卡占用,不是单独的模型大小。两台虚拟机都开着,正式测试期间系统可用内存最低约 12.4 GiB。

      原帖作者报告单 W7900 采样期为 23.5 GiB;双卡 TP2 后分别为 12.9 / 13.2 GiB。双卡省的是每张卡的占用;两边模型、编码器量化和采集接口不同,不拿来排显存效率名次。

      双方采样期每卡显存占用

      同一注意力模式下,250W 和 320W 的成片解码后 124 帧逐帧校验一致;我只核对了画面,音频没有逐样本对比。MP4 文件哈希不同,也不能直接拿文件哈希判断画面不同。

      换注意力后画面就不完全一样了。同一首帧和 seed,320W 普通注意力与 SLA 的成片,用 FFmpeg 计算 124 帧的平均 PSNR 约 15.27 dB。这个值说明像素有差异,不能单靠它判断哪段更好看。原帖的 25.5 dB 比较的是单卡和 TP2,不是同一个比较,不能横着排名。

      冷启动和一点限制

      上面完整规格的成绩都是热机。250W 首次启动时先跑了 416×256、22 帧、2 步的小样,约 422 秒;320W 那次小样约 426 秒。这里包含首次加载和小样执行,不是完整 124 帧视频的冷启动时间。

      两边素材、模型和工作流不完全一样,我无法严格复现原帖;本机每档每种后端只有两轮,没测环境分贝,也没做随机交替。原帖的双卡数字是作者自报,不能凭两套方案的时间差,断言单张 4080S 的硬件算力强过两张 W7900。

      就我自己家里这台来说, 能省又要性能 :250W 跑 H3 还是挺快,风扇没必要为了快几秒一直往高处转。机器放家里一个角落,随意折腾,能跑就行。

      本地 AI 我会继续玩,云端也照样用。先把东西跑起来,碰到问题再一点点调,慢慢把这些本事攒在自己手里。

      本文由 Hermes Agent 辅助测试和整理;4080S 数据来自本机实测,W7900 数据来自坛友原帖。

      关键词:MiniMax H3、RTX 4080S、ComfyUI、视频生成、本地模型。

      johnnybegoodJ
      johnnybegoodJ
      johnnybegood
      王侯将相
      编写于 最后由 编辑
      #2

      @Takano-RR 涡轮卡么?

      1 条回复 最后回复
      0
      • Takano RRT
        Takano RRT
        Takano RR
        体面乡绅
        编写于 最后由 编辑
        #3

        4090版3Fan卡

        1 条回复 最后回复
        0
        • BunseiB
          BunseiB
          Bunsei
          王侯将相
          编写于 最后由 Bunsei 编辑
          #4

          咱们可以试试这个大概 1MP 生成的速度吗? 很想知道4080的生成速度大概是多快。

          素材:https://storage.to/sruXRQBuK

          E 1 条回复 最后回复
          0
          • Werther WangW
            Werther WangW
            Werther Wang
            体面乡绅
            编写于 最后由 编辑
            #5

            屏幕截图 2026-10-28 215438.png
            屏幕截图 2026-10-28 215454.png

            1 条回复 最后回复
            0
            • Takano RRT
              Takano RRT
              Takano RR
              体面乡绅
              编写于 最后由 编辑
              #6

              @Bunsei 用你这套规格跑了一轮,4080S 32G 的数字:

              规格:1376×768(约 1.03MP)、226 帧、9.4 秒、4 步 SLA

              • 冷启动(含模型加载):521 秒
              • 热机:119 秒
              • 显存峰值:30.8G(32G 基本顶满)

              拆开看:模型加载 215 秒,4 步采样 108 秒,其余是文本编码和 VAE 解码。

              说明:我这边跑的是同规格的纯生成(简化提示词),没接你那套 5 参考图 + 动作视频 + 音频的完整 Ref2VA 流程。所以你那个 9.17 秒的成片要完整复现的话,还要加上参考编码时间,估计热机 2 分半到 3 分钟一条。

              附一条同规格生成的样片,只用来参考速度,提示词是简化的,画面不代表你那套素材的效果。

              1mp-run2-small.mp4

              1 条回复 最后回复
              0
              • Takano RRT
                Takano RRT
                Takano RR
                体面乡绅
                编写于 最后由 编辑
                #7

                @Bunsei 更正一下上面那条:那个"热机 2 分半到 3 分钟"是我估的,实测根本跑不通。

                按你这套 Ref2VA 跑(ref2va_pruned_w4a8 + 32B 视觉编码器),4080S 32G 的实际结果:

                • 1376×768 × 226 帧:OOM
                • 944×544 × 226 帧:OOM
                • 768×432 × 226 帧:OOM
                • 512×288 × 226 帧(9.4 秒):能跑,冷启动 316 秒
                • 512×288 × 362 帧(15 秒):OOM

                显存报错原文是 "Need: 23.9GB free, Have: 3.5GB free"。

                试过换 8B 编码器省显存,也不行:ref2va 要求 32B 的 5120 维,8B 只有 4096 维,直接维度不匹配。

                所以结论是:4080S 32G 跑 Ref2VA,一次最多大约 0.15MP / 9.4 秒。你那个 1MP 9.17 秒的成片,这张卡复现不了。

                上面那条纯生成的 1MP 数据(冷 521 秒 / 热 119 秒)是另一回事:不接参考图能跑 1MP,一加参考编码就装不下了。

                BunseiB 1 条回复 最后回复
                1
                • Takano RRT Takano RR

                  @Bunsei 更正一下上面那条:那个"热机 2 分半到 3 分钟"是我估的,实测根本跑不通。

                  按你这套 Ref2VA 跑(ref2va_pruned_w4a8 + 32B 视觉编码器),4080S 32G 的实际结果:

                  • 1376×768 × 226 帧:OOM
                  • 944×544 × 226 帧:OOM
                  • 768×432 × 226 帧:OOM
                  • 512×288 × 226 帧(9.4 秒):能跑,冷启动 316 秒
                  • 512×288 × 362 帧(15 秒):OOM

                  显存报错原文是 "Need: 23.9GB free, Have: 3.5GB free"。

                  试过换 8B 编码器省显存,也不行:ref2va 要求 32B 的 5120 维,8B 只有 4096 维,直接维度不匹配。

                  所以结论是:4080S 32G 跑 Ref2VA,一次最多大约 0.15MP / 9.4 秒。你那个 1MP 9.17 秒的成片,这张卡复现不了。

                  上面那条纯生成的 1MP 数据(冷 521 秒 / 热 119 秒)是另一回事:不接参考图能跑 1MP,一加参考编码就装不下了。

                  BunseiB
                  BunseiB
                  Bunsei
                  王侯将相
                  编写于 最后由 Bunsei 编辑
                  #8

                  @Takano-RR 如果允许内存的话应该能生成出来,但是时间就久了。这是在Windows下跑的吗?

                  Takano RRT 1 条回复 最后回复
                  0
                  • XiaoteX
                    XiaoteX
                    Xiaote
                    易有太极
                    编写于 最后由 编辑
                    #9

                    ✅ 版主审定:本帖设为优秀,作者 +3 积分奖励,继续加油!

                    奖励凭证:优秀 +3 分 · 编号 e2660-1591-1

                    老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                    1 条回复 最后回复
                    0
                    • BunseiB Bunsei

                      @Takano-RR 如果允许内存的话应该能生成出来,但是时间就久了。这是在Windows下跑的吗?

                      Takano RRT
                      Takano RRT
                      Takano RR
                      体面乡绅
                      编写于 最后由 编辑
                      #10

                      @Bunsei 我是飞牛nas系统

                      1 条回复 最后回复
                      0
                      • BunseiB Bunsei

                        咱们可以试试这个大概 1MP 生成的速度吗? 很想知道4080的生成速度大概是多快。

                        素材:https://storage.to/sruXRQBuK

                        E
                        E
                        Enigma
                        体面乡绅 硕果累累
                        编写于 最后由 编辑
                        #11

                        @Bunsei 说:

                        咱们可以试试这个大概 1MP 生成的速度吗? 很想知道4080的生成速度大概是多快。

                        素材:https://storage.to/sruXRQBuK

                        抄 2582 的第二组:同一套"宇宙公交站"素材,双 7900XTX(自建 TP2)和单张 4080S 各跑一遍全程

                        0x00 缘起

                        楼主第二组用的"宇宙公交站"素材包(5 张角色图 + 一段动作参考视频 + 原声),我们拿过来按同口径重跑了全程:832×480(0.399MP)、124 帧、20 步 Euler、seed 145、不用加速 LoRA、参考条件与初始噪声共享。手上正好有两台机器,一台 AMD 双卡、一台 N 卡单卡,分段计时都记下来了。

                        先说结论:单张 4080S 比我们的双 7900XTX 快 2.04 倍(10 分 36 秒 vs 5 分 12 秒)。

                        0x01 两台机器的配置

                        机器 A(AMD 双卡,自建 TP2):

                        项目 配置
                        主板 / CPU ASRock X570 ACE / Ryzen 5 3500X(6C6T,无 SMT)
                        内存 94 GB
                        GPU 2 × RX 7900 XTX 24G,拆 x8/x8(实测各 14.2 GB/s,不因第二张卡掉速)
                        P2P 开(BIOS 开 IOMMU + 内核 iommu=pt)
                        系统 / 内核 Ubuntu 24.04.5 / 7.0.0-38-generic
                        ROCm / torch ROCm 7.2.3 / torch 2.12.1+rocm7.2(hip 7.2.53211)
                        ComfyUI 0.39.0
                        跑法 自建 TP2 脚本:每卡装半宽模型,100 个行并行层自己做 int8(_int_mm),列并行保留 ck 算子,--use-ck-attention

                        机器 B(N 卡单卡,标准路径):

                        项目 配置
                        CPU Ryzen 7 9700X(8C16T)
                        内存 92 GB
                        GPU RTX 4080 SUPER 32G
                        驱动 / 内核 595.99.02 / 7.0.0-38-generic
                        CUDA / torch CUDA 13.0 / torch 2.13.0+cu130
                        ComfyUI 0.39.0
                        跑法 上游 h3_comfy_benchmark.py,标准单卡路径,不加任何补丁

                        两边用的是同一个 checkpoint 文件:minimax_h3_ref2va_pruned_fp8_scaled.safetensors,20,958,205,608 字节,日期都一样。

                        0x02 成绩

                        段 双 7900XTX(TP2) 单张 4080S 楼主(双 R9700,Radiance 原生)
                        预处理(VAE 编码 + Qwen3-VL-32B 条件) 141 s 38 s ~5 分钟
                        采样 20 步 438.3 s(20.4 → 22.8 s/步) 255.8 s(12.40 s/步) —
                        VAE 解码 + 合成 33 s 12.0 s —
                        合计 636 s = 10 分 36 秒 312 s = 5 分 12 秒 15 分 35 秒

                        预处理这一段两台差了近 4 倍(141s vs 38s),跟楼主账上"预处理走单卡 PyTorch 路径"那个观察是同一件事,只是 N 卡那边明显更不吃这一项。

                        0x03 逐步曲线(这个差别挺有意思)

                        机器 A(双 XTX)20 步,单位秒:

                        23.05, 20.39, 20.58, 20.69, 20.84, 20.89, 21.12, 21.38, 21.56, 21.73,
                        21.86, 22.03, 22.11, 22.18, 22.29, 22.37, 22.49, 22.56, 22.64, 22.81
                        

                        首步之后单调上升,到第 20 步涨了 12%,不是随机抖动,是热/功耗漂移。

                        机器 B(4080S)20 步全在 12.399 ~ 12.408 之间,基本一条直线。

                        0x04 一个必须说清的事:同 seed 不跨后端复现

                        两台出来的不是同一个画面——两段成片对拍 PSNR 只有 15.6 dB。seed 一样、素材一样、checkpoint 一样,但采样路径的数值实现不同(我们 TP2 是自建 int8 行并行,N 卡是标准 fp8 路径),20 步下来就分叉了。

                        所以上面那张表只能比时间,不能比画质;两台各自的效果请各自看成片。

                        0x05 为什么单卡 4080S 反而快(推断,没逐项隔离)

                        按可能的贡献排序:

                        1. FP8:checkpoint 是 fp8_scaled。Ada 有 FP8 Tensor Core,gfx1100 没有 FP8 硬件,只能反量化成 fp16/bf16 再算。
                        2. TP 通信:我们每个 block 一次 all_reduce(100 个行并行层),走 PCIe x8/x8(各 14.2 GB/s)。单卡完全没有这笔开销。
                        3. 主机差一档:3500X 6C6T 对 9700X 8C16T。
                        4. 热漂移:XTX 这对 +12%,4080S 全程死平。

                        要坐实的话,下一步是在 8.147 上把 TP2 的 all_reduce 单独计时,再用同一份 int8 版 ref2va 跑一遍,把"FP8"和"通信"两项拆开。现在这版结论请当测量结果 + 未验证的解释看。

                        0x06 顺手踩到的两个坑,抄的人可以直接避开

                        第一个:VAE 解码 OOM,根因不是显存不够,是没带 --use-ck-attention。 24G 卡上解 832×480×148 帧会炸,PyTorch 只报了 4.87GB 但卡上只剩 30MB——VAE 解码器里的注意力块用朴素实现,256×256 的 tile 就是 6.5 万 token 的注意力矩阵,20GB 是它吃掉的。带上 ck-attention 之后解码 19.4 秒。我们试过小 tile(256→128)、时间块切小、按时间/空间切两半、MIOpen FIND_MODE、expandable_segments、强制/不强制全载入——全部无效,别浪费时间。

                        第二个:跑过被 OOM 杀掉的 GPU 进程之后,amdgpu 会扣住主机内存不还。 我们这边连续几个解码进程被杀之后,空载 37GB 不在任何进程、不在缓存、不在 slab、不在 GTT 里,模型加载直接开始疯狂换页(302 秒还没起来)。modprobe -r amdgpu 的瞬间 MemFree 从 62.2GB 跳到 97.4GB,重新起就是 42 秒。双卡跑完 GPU 任务,起模型之前先看一眼 MemAvailable,不够就把驱动卸了重载(前提是别让桌面会话占着卡,否则卸不掉)。

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组