跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI音视频画图
  4. 7900 XTX 单卡 15 秒实测能跑

7900 XTX 单卡 15 秒实测能跑

已定时 已固定 已锁定 已移动 精华 AI音视频画图
7900xtxminimax视频生成
20 帖子 6 发布者 963 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT
    terryT
    terry
    易有太极
    编写于 最后由 编辑
    #5

    https://lcz.me/topic/2971
    https://lcz.me/topic/2998

    @天知道 @xiongjie-gao @懒人烘培 @jingy-yi
    能否统一一下,拿一个一样的工作流,大屌们帮助验证:
    单卡5080, 5070Ti的速度,单卡XTX的速度,瓶颈在哪里,有无节点绕过,比如KJ或者其他AMD大神的节点,工作流?暂时我只能云下各位的结果,月底我才有时间折腾这事。

    油管:https://www.youtube.com/@抡锤者

    xiongjie gaoX 懒人烘培懒 天知道天 4 条回复 最后回复
    0
    • terryT terry

      https://lcz.me/topic/2971
      https://lcz.me/topic/2998

      @天知道 @xiongjie-gao @懒人烘培 @jingy-yi
      能否统一一下,拿一个一样的工作流,大屌们帮助验证:
      单卡5080, 5070Ti的速度,单卡XTX的速度,瓶颈在哪里,有无节点绕过,比如KJ或者其他AMD大神的节点,工作流?暂时我只能云下各位的结果,月底我才有时间折腾这事。

      xiongjie gaoX
      xiongjie gaoX
      xiongjie gao
      王侯将相
      编写于 最后由 编辑
      #6

      @terry 好的噢
      有空折腾一下

      https://github.com/shawn86574-prog/x99-7900xtx-p2p
      https://github.com/shawn86574-prog/kuzuryusen

      1 条回复 最后回复
      1
      • terryT terry

        https://lcz.me/topic/2971
        https://lcz.me/topic/2998

        @天知道 @xiongjie-gao @懒人烘培 @jingy-yi
        能否统一一下,拿一个一样的工作流,大屌们帮助验证:
        单卡5080, 5070Ti的速度,单卡XTX的速度,瓶颈在哪里,有无节点绕过,比如KJ或者其他AMD大神的节点,工作流?暂时我只能云下各位的结果,月底我才有时间折腾这事。

        懒人烘培懒
        懒人烘培懒
        懒人烘培
        王侯将相
        编写于 最后由 懒人烘培 编辑
        #7

        @terry 说:

        比如KJ或者其他AMD大神的节点,工作流?

        好的,收到。在另外一个帖子(https://lcz.me/topic/2920)上做了7900XTX的测试,用的是KJ的low vram attention和chunk feedforward节点可以完成,时间36分钟左右。下一步将用5080进行测试。

        双 7900 XTX:模型本地跑,Token 随便烧!

        1 条回复 最后回复
        1
        • terryT terry

          https://lcz.me/topic/2971
          https://lcz.me/topic/2998

          @天知道 @xiongjie-gao @懒人烘培 @jingy-yi
          能否统一一下,拿一个一样的工作流,大屌们帮助验证:
          单卡5080, 5070Ti的速度,单卡XTX的速度,瓶颈在哪里,有无节点绕过,比如KJ或者其他AMD大神的节点,工作流?暂时我只能云下各位的结果,月底我才有时间折腾这事。

          天知道天
          天知道天
          天知道
          体面乡绅
          编写于 最后由 编辑
          #8

          @terry 我建议是测官方工作流,容易统一,以下是测试结果:

          7900 XTX 跑官方 MiniMax-H3 参考生视频:为什么 OOM、为什么慢,以及怎么把 15 秒 1 MP 压到 23 分钟

          平台:AMD Radeon RX 7900 XTX 24 GB(gfx1100),ROCm 7.2,ComfyUI 0.44.2
          对象:官方模板 video_minimax_h3_r2v.json(参考图生视频),1344×768 / 362 帧 / 15.08 s / 4 步
          结论先说:官方图有两个坑——不带分块会在大分配上撞墙,不带注意力后端会慢 5.9 倍。修好这两点,23 分钟出片。


          一、环境

          项 值
          GPU AMD Radeon RX 7900 XTX 24 GB(gfx1100)
          系统 / 驱动 Ubuntu 24.04,ROCm 7.2.0
          Python / PyTorch 3.12.3 / 2.14.1+rocm7.2
          comfy-kitchen 0.2.40
          Triton triton-rocm 3.8.0
          ComfyUI 0.44.2(e6515b16),前端 1.57.6

          "原配置"指的就是这台机器原本的显存分配器设置:

          PYTORCH_HIP_ALLOC_CONF=garbage_collection_threshold:0.8,max_split_size_mb:256
          

          关键在于 max_split_size_mb:256 —— 它的含义是"大于 256 MB 的空闲块不再被切分",
          也就是保护大块连续内存。这个参数是本帖后半段的主角。

          下文第 5~8 组实验会把它去掉(只留 gc 0.8)做对照,那是为了定位 OOM 的原因,不是推荐配置。

          模型:

          组件 文件 大小
          DiT minimax_h3_ref2va_pruned_int8_convrot.safetensors 20.9 GB
          文本编码器 qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors 15 GB
          视频 VAE minimax_h3_video_vae_fp16.safetensors 4.9 GB
          音频 VAE minimax_h3_audio_vae_fp32.safetensors 578 MB
          加速 LoRA minimax_h3_ref2v_turbo_4step_v0.1_comfyui_bf16.safetensors 1.0

          生成参数(官方模板原样):

          • 分辨率 1344×768(16:9,1 MP,multiple=32)
          • 帧数 362(15.083 s @ 24 fps,H3 训练范围上限)
          • 步数 4(turbo LoRA),采样器 res_multistep,调度 simple,ref_image_size=match
          • 两张参考图:官方模板自带的
            red_superboy_on_city_roof.jpg
            mecha_dragon_lightning.jpg

          二、测了什么,结果如何

          # 图 分配器 结果
          1 官方原样(无分块、无注意力后端) 原配置 180 s 探针通过,峰值 23.55 GiB,0 次分配失败
          2 官方 + comfy kitchen attention,无分块 原配置 23:00 出片,峰值 23.87 GiB,310 s/步
          3 同 #2,加一路参考音频(叶奈法.wav) 原配置 300 s 探针无崩、无 OOM,峰值 23.79 GiB
          4 官方 + head_chunks=4 + chunks=2,无注意力后端 只 gc 0.8 2 步走了 1:00:52(约 30 分钟/步),中断
          5 官方原样(无分块、无注意力后端) 只 gc 0.8 OOM(约 130 s,Tried to allocate 1.14 GiB, free 344 MiB)
          6 官方 + ChunkFeedForward(chunks=2, seq=4096) 只 gc 0.8 6 分钟探针通过,峰值 21.30 GiB
          7 官方 + ChunkFeedForward(chunks=1, seq=4096) 只 gc 0.8 OOM(约 60–70 s,峰值 23.58 GiB)
          8 官方 + comfy kitchen attention 单独 只 gc 0.8 10 秒 OOM:Tried to allocate 6.06 GiB

          每组都是同一张图、同一提示词、同一 seed,只改上表列的变量。

          说明:#4 与 #2 之间除了注意力后端,还差了分块和分配器,不是严格的控制变量。
          但分块对速度的影响在别处单独测过约 5~6%(15 s 档 310 s/步 vs 约 325 s/步),
          量级远小于 5.9 倍,所以 #4 的"每步 30 分钟"主要归因于缺少注意力后端(推断,非严格隔离)。


          三、提示词

          两张参考图分别是「楼顶上的红披风小英雄」和「城市中咆哮的黑金机械巨兽」,所以写成三幕对战:

          Bold comic-book ink style, heavy linework, red and blue-black palette, night city rooftop
          and skyline. Use <Picture 1> as the little boy superhero and <Picture 2> as the colossal
          black mecha-kaiju; keep both designs exactly as drawn.
          
          CUT 1: top-down view of the boy superhero on the rooftop, red cape fluttering, hands on
          hips, cocky grin. He points straight up at the camera, comic speech bubble: "YOU'RE MINE."
          He launches off the roof edge, leaving a red motion blur.
          TRANSITION: violent whip pan through rain-streaked air, the skyline smearing past.
          CUT 2: low hero angle as the black mecha-kaiju swings one arm through a skyscraper; the
          whole facade explodes outward in a shower of blue-white glass. The boy dodges mid-air in a
          tight spin and drives a punch into the kaiju's glowing chest core — a shockwave ring of
          white ink bursts outward, jagged speed lines, deafening metal impact and a ground-shaking
          roar.
          CUT 3: the kaiju rears back and snaps its jaws down; the boy catches the lower jaw with
          both hands, boots braced on its teeth, straining as red lightning crawls across the chrome
          and its eyes flare blinding red. He flips up onto its head as the camera pulls back to a
          wide shot of the ruined street.
          
          SOUND: deep metallic roars, concrete crumbling, rushing wind, heavy impacts, crackling
          electricity.
          

          效果:三个 CUT 基本都落地了——第一帧出 "YOU'RE MINE." 的漫画气泡,
          file.png

          中段孩子在巨兽胸口出拳,
          file.png

          结尾站在它头顶。
          file.png


          四、官方工作流为什么会 OOM

          官方图在 15 秒 / 1 MP / 双参考下会炸,原因不是总量不够,是单次分配拿不到连续内存。它有两个独立的坑。

          坑 1:没有分块节点,大张量要"一整块"内存

          H3 是音视频联合模型,362 帧这一档的激活张量很大。官方图里没有
          MiniMaxChunkFeedForward / MiniMaxLowVRAMAttention,所以这些张量是「一次要一整块」。

          而 max_split_size_mb 的语义是:大于该尺寸的空闲块不再被切分,它保护大块连续内存。
          把它去掉(只留 gc 0.8)之后,空闲块会被切碎——总占用变低了,但大分配反而失败:

          #5:Tried to allocate 1.14 GiB,GPU 总 23.98 GiB,只剩 344 MiB
               (此时 20.79 GiB 已分配 + 2.22 GiB 保留,总量是够的,但拿不到一段连续的)
          

          坑 2:kitchen attention 自己也要一块大 workspace

          comfy kitchen attention 是融合内核,快,但它会申请 6 GiB 级的一次性 workspace。
          没有分块切片时:

          #8:Requested to allocate 6.06 GiB → 10 秒内 OOM
          

          两个坑叠在一起就是大家在论坛上看到的"15 秒必炸"。

          我们怎么绕过的

          两条,按场景选:

          1. 日常首选:保留 max_split_size_mb:256,不加分块。
            大块连续内存被保护,官方图原样(加注意力后端)就能跑完,峰值 23.87 GiB。
          2. 重活才加分块:head_chunks=4 + chunks=2。
            分块的意义不是"省总显存",而是把每次分配切小——kitchen 的 6 GiB 请求被 head_chunks
            拆成 4 份,FFN 的序列按 chunks 拆开。
            实测:10 秒视频参考、二采(latent upscale 二次采样)这几类,只有加了 4/2 才过。
            单独加 chunks=2 也能救活 1 MP/15 s(#6,峰值 21.30 GiB)。

          ⚠️ 注意分块的代价:它只降峰值、不改计算量,15 s 这档加 4/2 大约慢 5~6%,只省 0.17 GiB。
          所以不要默认加,留给真正需要余量的图。


          五、官方工作流为什么慢

          官方图里没有 ModelAttentionBackend 节点,H3 走 ComfyUI 默认的 pytorch attention。
          在 362 帧这种长序列上,它比 comfy kitchen attention 差一个数量级:

          同一张官方图 每步 四步采样
          默认 pytorch attention(#4,另带 4/2 分块、只 gc) 1823–1842 s 约 2 小时
          comfy kitchen attention(#2,无分块、原配置) 310 s 20 分 40 秒

          差约 5.9 倍。 注意这两组还差了分块与分配器:分块实测只影响 5~6%,所以主导因素是注意力后端
          (这是归因推断,没做"只换注意力后端、其余完全相同"的隔离实验)。

          为什么差这么多:注意力耗时随 token 数超线性增长,而 362 帧的 token 数是 124 帧的近 3 倍。
          小片段里这一个节点只占几秒,长片段里它变成主要成本。

          怎么提速

          在官方图里插一个节点:

          UNETLoader → LoraLoaderModelOnly → ModelAttentionBackend(attention="comfy kitchen attention") → BasicGuider
          

          其他全部保持官方原样。结果:

          • 采样 4 步 20:40(310 s/步)
          • 总耗时 23:00(含编码、解码、封装)
          • 峰值 23.87 GiB / 24 GiB

          顺带澄清一个旧结论:小片段(5 秒 / 124 帧)下 kitchen attention 几乎没有加速(448 s vs 440 s)。
          那时每步只要 56 s,注意力占比小。15 秒这一档完全是另一回事,别拿 5 秒的数据外推。


          六、其他试过、确认没用的

          尝试 结果
          4-bit 权重模型(w4a8,11 GB,体积砍半) 不提速(表面 4% 是条件缓存的口径假象)、显存只省 0.44 GiB、画质明显掉(机械臂细节糊掉)。继续用 int8
          --enable-triton-backend(int8 GEMM 换 Triton 内核) 慢 10%,第二次运行段错误(segfault at 100000001),靠看门狗重启
          expandable_segments:True 5~10 秒直接 hipErrorOutOfMemory
          换更小的文本编码器 不存在。32B VLM,nvfp4 15 GB 已是 4bit 极限;GGUF Q4 反而 18.4 GB
          让编码器不驻留(device=cpu) 没必要。124 帧档实测:编码器加载 vs 不加载,峰值完全相同(22.74 GiB),只差 80 秒编码时间

          七、还有哪些不确定

          1. 单次运行、单 seed、单提示词,没有跑多次取中位。23:00 这个数可能有两三分钟波动。
          2. 显存是 0.5 秒采样一次,可能漏掉瞬时尖峰,23.87 GiB 是采样到的最大值,真实峰值可能更高。
          3. 带参考音频只跑了 300 秒探针,没有完整出片。300 秒里过了编码和第一步的大部分,但没验证全片。
          4. kitchen attention 的稳定性:https://lcz.me/topic/2920有一例 int8 + kitchen 在满尺寸崩 hipErrorIllegalAddress
            (崩在音频 VAE 解码),本次没复现。但也无法证明它不会偶发。
          5. "6 GiB workspace"是从 OOM 报错反推的,没有 profiler 佐证;机制解释成立,具体数值是推断。
          6. 为什么 5 秒没加速、15 秒快 5.9 倍:只有两个数据点。"注意力占比随序列长度平方增长"是合理推断,
            但没有中间档(8 秒、10 秒)的实测。
          7. res_multistep vs euler、是否加 MiniMaxH3SigmaShift 没有做控制变量对比,都是官方参数照用。
          8. max_split_size_mb 与分块的组合只测了少数几格(0/1/2 块 × 两种分配器),
            中间值(例如 512、1024)没试。
          9. 结论只对 7900 XTX + ROCm 7.2 + 这一版 ComfyUI 成立,其他卡/其他 ROCm 版本需要重测。
          10. 官方模板里 <Audio 1> 是占位符(原图并没有接音频),所以我们测音频参考时是手动补的 LoadAudio。

          八、复现

          1. 用官方模板 video_minimax_h3_r2v.json,两张参考图用模板自带的。
          2. 分配器保持原样:garbage_collection_threshold:0.8,max_split_size_mb:256。
            (后面实验里"只 gc"指的就是把 max_split_size_mb 去掉,只为对照,不是推荐配置。)
          3. 在 LoraLoaderModelOnly 和 BasicGuider 之间插 ModelAttentionBackend,选 comfy kitchen attention。
          4. 分辨率 1344×768、帧数 362、4 步、res_multistep + simple。
          5. 重活(视频参考 / 二采)再插 MiniMaxLowVRAMAttention(head_chunks=4) 和
            MiniMaxChunkFeedForward(chunks=2, seq_threshold=4096)。

          预期:15 秒 1 MP 双参考,23 分钟左右出片,峰值约 23.8 GiB(余量只剩 100 多 MiB,跑的时候别占显卡)。


          本文所有数字都是本机实测;标注为"推断"的部分没有实测支撑。

          terryT 1 条回复 最后回复
          1
          • 天知道天
            天知道天
            天知道
            体面乡绅
            编写于 最后由 编辑
            #9

            九、能力有限只能测到这里,希望大神们有更好的提速和防OOM的办法。

            J IJ XiaoteX 2 条回复 最后回复
            1
            • 天知道天 天知道

              九、能力有限只能测到这里,希望大神们有更好的提速和防OOM的办法。

              J IJ
              J IJ
              J I
              体面乡绅
              编写于 最后由 编辑
              #10

              @天知道 我本机双 RX 7900 XTX TP2 跑 MiniMax H3 Hybrid INT8-ConvRot + Pika Flex Hybrid BF16 LoRA(strength 1.0),LCM、CFG 1、6 步;attention 用 Sol-Attn,FFN 用 MiniMaxChunkFeedForward(chunks=4,seq_threshold=2048)。速度感觉还可以

              1 条回复 最后回复
              1
              • 天知道天 天知道

                @terry 我建议是测官方工作流,容易统一,以下是测试结果:

                7900 XTX 跑官方 MiniMax-H3 参考生视频:为什么 OOM、为什么慢,以及怎么把 15 秒 1 MP 压到 23 分钟

                平台:AMD Radeon RX 7900 XTX 24 GB(gfx1100),ROCm 7.2,ComfyUI 0.44.2
                对象:官方模板 video_minimax_h3_r2v.json(参考图生视频),1344×768 / 362 帧 / 15.08 s / 4 步
                结论先说:官方图有两个坑——不带分块会在大分配上撞墙,不带注意力后端会慢 5.9 倍。修好这两点,23 分钟出片。


                一、环境

                项 值
                GPU AMD Radeon RX 7900 XTX 24 GB(gfx1100)
                系统 / 驱动 Ubuntu 24.04,ROCm 7.2.0
                Python / PyTorch 3.12.3 / 2.14.1+rocm7.2
                comfy-kitchen 0.2.40
                Triton triton-rocm 3.8.0
                ComfyUI 0.44.2(e6515b16),前端 1.57.6

                "原配置"指的就是这台机器原本的显存分配器设置:

                PYTORCH_HIP_ALLOC_CONF=garbage_collection_threshold:0.8,max_split_size_mb:256
                

                关键在于 max_split_size_mb:256 —— 它的含义是"大于 256 MB 的空闲块不再被切分",
                也就是保护大块连续内存。这个参数是本帖后半段的主角。

                下文第 5~8 组实验会把它去掉(只留 gc 0.8)做对照,那是为了定位 OOM 的原因,不是推荐配置。

                模型:

                组件 文件 大小
                DiT minimax_h3_ref2va_pruned_int8_convrot.safetensors 20.9 GB
                文本编码器 qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors 15 GB
                视频 VAE minimax_h3_video_vae_fp16.safetensors 4.9 GB
                音频 VAE minimax_h3_audio_vae_fp32.safetensors 578 MB
                加速 LoRA minimax_h3_ref2v_turbo_4step_v0.1_comfyui_bf16.safetensors 1.0

                生成参数(官方模板原样):

                • 分辨率 1344×768(16:9,1 MP,multiple=32)
                • 帧数 362(15.083 s @ 24 fps,H3 训练范围上限)
                • 步数 4(turbo LoRA),采样器 res_multistep,调度 simple,ref_image_size=match
                • 两张参考图:官方模板自带的
                  red_superboy_on_city_roof.jpg
                  mecha_dragon_lightning.jpg

                二、测了什么,结果如何

                # 图 分配器 结果
                1 官方原样(无分块、无注意力后端) 原配置 180 s 探针通过,峰值 23.55 GiB,0 次分配失败
                2 官方 + comfy kitchen attention,无分块 原配置 23:00 出片,峰值 23.87 GiB,310 s/步
                3 同 #2,加一路参考音频(叶奈法.wav) 原配置 300 s 探针无崩、无 OOM,峰值 23.79 GiB
                4 官方 + head_chunks=4 + chunks=2,无注意力后端 只 gc 0.8 2 步走了 1:00:52(约 30 分钟/步),中断
                5 官方原样(无分块、无注意力后端) 只 gc 0.8 OOM(约 130 s,Tried to allocate 1.14 GiB, free 344 MiB)
                6 官方 + ChunkFeedForward(chunks=2, seq=4096) 只 gc 0.8 6 分钟探针通过,峰值 21.30 GiB
                7 官方 + ChunkFeedForward(chunks=1, seq=4096) 只 gc 0.8 OOM(约 60–70 s,峰值 23.58 GiB)
                8 官方 + comfy kitchen attention 单独 只 gc 0.8 10 秒 OOM:Tried to allocate 6.06 GiB

                每组都是同一张图、同一提示词、同一 seed,只改上表列的变量。

                说明:#4 与 #2 之间除了注意力后端,还差了分块和分配器,不是严格的控制变量。
                但分块对速度的影响在别处单独测过约 5~6%(15 s 档 310 s/步 vs 约 325 s/步),
                量级远小于 5.9 倍,所以 #4 的"每步 30 分钟"主要归因于缺少注意力后端(推断,非严格隔离)。


                三、提示词

                两张参考图分别是「楼顶上的红披风小英雄」和「城市中咆哮的黑金机械巨兽」,所以写成三幕对战:

                Bold comic-book ink style, heavy linework, red and blue-black palette, night city rooftop
                and skyline. Use <Picture 1> as the little boy superhero and <Picture 2> as the colossal
                black mecha-kaiju; keep both designs exactly as drawn.
                
                CUT 1: top-down view of the boy superhero on the rooftop, red cape fluttering, hands on
                hips, cocky grin. He points straight up at the camera, comic speech bubble: "YOU'RE MINE."
                He launches off the roof edge, leaving a red motion blur.
                TRANSITION: violent whip pan through rain-streaked air, the skyline smearing past.
                CUT 2: low hero angle as the black mecha-kaiju swings one arm through a skyscraper; the
                whole facade explodes outward in a shower of blue-white glass. The boy dodges mid-air in a
                tight spin and drives a punch into the kaiju's glowing chest core — a shockwave ring of
                white ink bursts outward, jagged speed lines, deafening metal impact and a ground-shaking
                roar.
                CUT 3: the kaiju rears back and snaps its jaws down; the boy catches the lower jaw with
                both hands, boots braced on its teeth, straining as red lightning crawls across the chrome
                and its eyes flare blinding red. He flips up onto its head as the camera pulls back to a
                wide shot of the ruined street.
                
                SOUND: deep metallic roars, concrete crumbling, rushing wind, heavy impacts, crackling
                electricity.
                

                效果:三个 CUT 基本都落地了——第一帧出 "YOU'RE MINE." 的漫画气泡,
                file.png

                中段孩子在巨兽胸口出拳,
                file.png

                结尾站在它头顶。
                file.png


                四、官方工作流为什么会 OOM

                官方图在 15 秒 / 1 MP / 双参考下会炸,原因不是总量不够,是单次分配拿不到连续内存。它有两个独立的坑。

                坑 1:没有分块节点,大张量要"一整块"内存

                H3 是音视频联合模型,362 帧这一档的激活张量很大。官方图里没有
                MiniMaxChunkFeedForward / MiniMaxLowVRAMAttention,所以这些张量是「一次要一整块」。

                而 max_split_size_mb 的语义是:大于该尺寸的空闲块不再被切分,它保护大块连续内存。
                把它去掉(只留 gc 0.8)之后,空闲块会被切碎——总占用变低了,但大分配反而失败:

                #5:Tried to allocate 1.14 GiB,GPU 总 23.98 GiB,只剩 344 MiB
                     (此时 20.79 GiB 已分配 + 2.22 GiB 保留,总量是够的,但拿不到一段连续的)
                

                坑 2:kitchen attention 自己也要一块大 workspace

                comfy kitchen attention 是融合内核,快,但它会申请 6 GiB 级的一次性 workspace。
                没有分块切片时:

                #8:Requested to allocate 6.06 GiB → 10 秒内 OOM
                

                两个坑叠在一起就是大家在论坛上看到的"15 秒必炸"。

                我们怎么绕过的

                两条,按场景选:

                1. 日常首选:保留 max_split_size_mb:256,不加分块。
                  大块连续内存被保护,官方图原样(加注意力后端)就能跑完,峰值 23.87 GiB。
                2. 重活才加分块:head_chunks=4 + chunks=2。
                  分块的意义不是"省总显存",而是把每次分配切小——kitchen 的 6 GiB 请求被 head_chunks
                  拆成 4 份,FFN 的序列按 chunks 拆开。
                  实测:10 秒视频参考、二采(latent upscale 二次采样)这几类,只有加了 4/2 才过。
                  单独加 chunks=2 也能救活 1 MP/15 s(#6,峰值 21.30 GiB)。

                ⚠️ 注意分块的代价:它只降峰值、不改计算量,15 s 这档加 4/2 大约慢 5~6%,只省 0.17 GiB。
                所以不要默认加,留给真正需要余量的图。


                五、官方工作流为什么慢

                官方图里没有 ModelAttentionBackend 节点,H3 走 ComfyUI 默认的 pytorch attention。
                在 362 帧这种长序列上,它比 comfy kitchen attention 差一个数量级:

                同一张官方图 每步 四步采样
                默认 pytorch attention(#4,另带 4/2 分块、只 gc) 1823–1842 s 约 2 小时
                comfy kitchen attention(#2,无分块、原配置) 310 s 20 分 40 秒

                差约 5.9 倍。 注意这两组还差了分块与分配器:分块实测只影响 5~6%,所以主导因素是注意力后端
                (这是归因推断,没做"只换注意力后端、其余完全相同"的隔离实验)。

                为什么差这么多:注意力耗时随 token 数超线性增长,而 362 帧的 token 数是 124 帧的近 3 倍。
                小片段里这一个节点只占几秒,长片段里它变成主要成本。

                怎么提速

                在官方图里插一个节点:

                UNETLoader → LoraLoaderModelOnly → ModelAttentionBackend(attention="comfy kitchen attention") → BasicGuider
                

                其他全部保持官方原样。结果:

                • 采样 4 步 20:40(310 s/步)
                • 总耗时 23:00(含编码、解码、封装)
                • 峰值 23.87 GiB / 24 GiB

                顺带澄清一个旧结论:小片段(5 秒 / 124 帧)下 kitchen attention 几乎没有加速(448 s vs 440 s)。
                那时每步只要 56 s,注意力占比小。15 秒这一档完全是另一回事,别拿 5 秒的数据外推。


                六、其他试过、确认没用的

                尝试 结果
                4-bit 权重模型(w4a8,11 GB,体积砍半) 不提速(表面 4% 是条件缓存的口径假象)、显存只省 0.44 GiB、画质明显掉(机械臂细节糊掉)。继续用 int8
                --enable-triton-backend(int8 GEMM 换 Triton 内核) 慢 10%,第二次运行段错误(segfault at 100000001),靠看门狗重启
                expandable_segments:True 5~10 秒直接 hipErrorOutOfMemory
                换更小的文本编码器 不存在。32B VLM,nvfp4 15 GB 已是 4bit 极限;GGUF Q4 反而 18.4 GB
                让编码器不驻留(device=cpu) 没必要。124 帧档实测:编码器加载 vs 不加载,峰值完全相同(22.74 GiB),只差 80 秒编码时间

                七、还有哪些不确定

                1. 单次运行、单 seed、单提示词,没有跑多次取中位。23:00 这个数可能有两三分钟波动。
                2. 显存是 0.5 秒采样一次,可能漏掉瞬时尖峰,23.87 GiB 是采样到的最大值,真实峰值可能更高。
                3. 带参考音频只跑了 300 秒探针,没有完整出片。300 秒里过了编码和第一步的大部分,但没验证全片。
                4. kitchen attention 的稳定性:https://lcz.me/topic/2920有一例 int8 + kitchen 在满尺寸崩 hipErrorIllegalAddress
                  (崩在音频 VAE 解码),本次没复现。但也无法证明它不会偶发。
                5. "6 GiB workspace"是从 OOM 报错反推的,没有 profiler 佐证;机制解释成立,具体数值是推断。
                6. 为什么 5 秒没加速、15 秒快 5.9 倍:只有两个数据点。"注意力占比随序列长度平方增长"是合理推断,
                  但没有中间档(8 秒、10 秒)的实测。
                7. res_multistep vs euler、是否加 MiniMaxH3SigmaShift 没有做控制变量对比,都是官方参数照用。
                8. max_split_size_mb 与分块的组合只测了少数几格(0/1/2 块 × 两种分配器),
                  中间值(例如 512、1024)没试。
                9. 结论只对 7900 XTX + ROCm 7.2 + 这一版 ComfyUI 成立,其他卡/其他 ROCm 版本需要重测。
                10. 官方模板里 <Audio 1> 是占位符(原图并没有接音频),所以我们测音频参考时是手动补的 LoadAudio。

                八、复现

                1. 用官方模板 video_minimax_h3_r2v.json,两张参考图用模板自带的。
                2. 分配器保持原样:garbage_collection_threshold:0.8,max_split_size_mb:256。
                  (后面实验里"只 gc"指的就是把 max_split_size_mb 去掉,只为对照,不是推荐配置。)
                3. 在 LoraLoaderModelOnly 和 BasicGuider 之间插 ModelAttentionBackend,选 comfy kitchen attention。
                4. 分辨率 1344×768、帧数 362、4 步、res_multistep + simple。
                5. 重活(视频参考 / 二采)再插 MiniMaxLowVRAMAttention(head_chunks=4) 和
                  MiniMaxChunkFeedForward(chunks=2, seq_threshold=4096)。

                预期:15 秒 1 MP 双参考,23 分钟左右出片,峰值约 23.8 GiB(余量只剩 100 多 MiB,跑的时候别占显卡)。


                本文所有数字都是本机实测;标注为"推断"的部分没有实测支撑。

                terryT
                terryT
                terry
                易有太极
                编写于 最后由 编辑
                #11

                @天知道 数据我都看了下,A卡的驱动确实有问题,它大多数工作流下确实要求更高,速度更慢。N卡的加速并不影响质量,这就是生产力。

                油管:https://www.youtube.com/@抡锤者

                1 条回复 最后回复
                0
                • 天知道天 天知道

                  九、能力有限只能测到这里,希望大神们有更好的提速和防OOM的办法。

                  XiaoteX
                  XiaoteX
                  Xiaote
                  易有太极
                  编写于 最后由 编辑
                  #12

                  @天知道 感谢你验证 7900XTX 上 Minimax H3 的实测数据,奖励 3 积分。

                  本条为奖励通知,无需回复。

                  老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                  1 条回复 最后回复
                  0
                  • terryT terry

                    https://lcz.me/topic/2971
                    https://lcz.me/topic/2998

                    @天知道 @xiongjie-gao @懒人烘培 @jingy-yi
                    能否统一一下,拿一个一样的工作流,大屌们帮助验证:
                    单卡5080, 5070Ti的速度,单卡XTX的速度,瓶颈在哪里,有无节点绕过,比如KJ或者其他AMD大神的节点,工作流?暂时我只能云下各位的结果,月底我才有时间折腾这事。

                    懒人烘培懒
                    懒人烘培懒
                    懒人烘培
                    王侯将相
                    编写于 最后由 编辑
                    #13

                    @terry 5080也抽时间测试了,用得是统一工作流,结果如下:

                    RTX 5080 16GB 单卡实测 MiniMax H3 15 秒出片,对比 RX 7900 XTX

                    7900 XTX之前已测试,现在用单张 RTX 5080 16GB 跑了两组 MiniMax H3 Ref2VA 工作流,每组只启用一个 KJ 节点。

                    5080 两组都完整出片,未发生 OOM。两段 MP4 均经 FFmpeg 核验为 1344×768、24 fps、362 帧、15.08 秒,带非静音 AAC 音轨。两段音轨的解码峰值均为 −17.1 dBFS。

                    单卡耗时与显存

                    单独启用的节点 RTX 5080 工作流耗时 RTX 5080 整卡显存峰值 RX 7900 XTX 工作流耗时 RX 7900 XTX 整卡显存峰值
                    MiniMax H3 Low VRAM Attention,4 组 27 分 51 秒 14.46 GiB 36 分 52 秒 12.75 GiB
                    MiniMax H3 Chunk FeedForward,4 块 28 分 54 秒 13.37 GiB 36 分 33 秒 10.81 GiB

                    5080 的显存峰值由 nvidia-smi 每秒采样一次,包含桌面等其他进程的显存占用。7900 XTX 数据引用之前的测试数据(https://lcz.me/topic/2920/16)。

                    • 速度 相对帖子里的 7900 XTX 数据,5080 的 Attention 组少用 9 分 01 秒(24.5%),FeedForward 组少用 7 分 39 秒(20.9%)。
                    • 显存 两张卡上都是 FeedForward 组峰值更低。5080 低 1.09 GiB,7900 XTX 低 1.94 GiB。5080 上 Attention 组快 1 分 03 秒,7900 XTX 上 FeedForward 组快 19 秒。

                    测试配置

                    两边均为单卡、每组只启用一个 KJ 节点,使用 --novram --disable-async-offload、Euler / beta 8 步,均未加载 LoRA。5080 两组共用同一份本地权重、提示词、随机种子和参考音频。

                    配置 RTX 5080 RX 7900 XTX
                    Attention 后端 PyTorch CUDA Attention CK Attention(--use-ck-attention)
                    文本编码器 Q2_K GGUF INT8
                    最终音频解码 GPU CPU,帖子记录 GPU 探针触发 HIP 非法内存访问

                    跨卡的耗时和显存差包含 Attention 后端、文本编码器和音频解码路径的影响,暂时无法把差异单独归因于显卡。

                    瓶颈在哪里,有没有节点绕过?

                    5080 的主要耗时在采样。 Attention 组 8 步采样用 23 分 04 秒,FeedForward 组用 24 分 13 秒,分别约占工作流总耗时的 83% 和 84%。采样期间 GPU 利用率多次达到 100%,日志也有权重卸载和锁页内存警告。现有日志能定位到采样阶段,算子计算与权重传输各占多少还需要分段测量。

                    7900 XTX 早期复现的瓶颈出现在首步采样。 帖子里 --lowvram 出现约 5.89 GiB 的分配失败警告,--novram 的一次运行超过 21 分钟仍未完成首步。分别接入两个 KJ 节点后均能完整出片。帖子里的真实 H3 权重单层对照也显示,约 10.8 万 token 时,FeedForward 四分块把该层的额外显存峰值从 8.36 GiB 降到 3.23 GiB,抽样输出一致。

                    两条 KJ 路径都已验证可用。 在这次 5080 实测里,Attention 四组总耗时更短,FeedForward 四块显存峰值更低。7900 XTX 帖子还验证了另一条 H3 Streamed Blocks 路径,约 50 分 36 秒出片,整卡峰值约 6.98 GiB。两边目前都缺少相同公共配置下关闭两个 KJ 节点的完整出片基线。

                    补充:RTX 5080 的两组测试均未加载加速 LoRA,均使用 Euler / beta 跑满 8 步。对照的 RX 7900 XTX 两组也未加载加速 LoRA。

                    双 7900 XTX:模型本地跑,Token 随便烧!

                    1 条回复 最后回复
                    1
                    • terryT
                      terryT
                      terry
                      易有太极
                      编写于 最后由 terry 编辑
                      #14

                      @天知道 @懒人烘培
                      杰杰的最新帖子:https://lcz.me/topic/3035
                      看看单卡方案有无帮助,有什么提升。

                      油管:https://www.youtube.com/@抡锤者

                      懒人烘培懒 1 条回复 最后回复
                      0
                      • terryT terry

                        @天知道 @懒人烘培
                        杰杰的最新帖子:https://lcz.me/topic/3035
                        看看单卡方案有无帮助,有什么提升。

                        懒人烘培懒
                        懒人烘培懒
                        懒人烘培
                        王侯将相
                        编写于 最后由 编辑
                        #15

                        @terry 好的~

                        双 7900 XTX:模型本地跑,Token 随便烧!

                        1 条回复 最后回复
                        1
                        • 天知道天
                          天知道天
                          天知道
                          体面乡绅
                          编写于 最后由 编辑
                          #16

                          在自己帖子补一个,方便同涡轮卡参考(话说我是不是应该改一下帖子标题,注明涡轮卡?)

                          我是蓝宝石的涡轮卡(不是常见的零售三风扇版)。照着自己的机器做了三组对照,把能抄的和抄不了的都写一下。

                          一、先说我这张卡:蓝宝石涡轮版

                          • 品牌型号:蓝宝石 7900 XTX 涡轮版
                          • 功耗上限默认 257 W(可调范围 231~350 W)
                          • 一般零售 7900 XTX 是 339~355 W、boost 约 2500 MHz(说明一下:楼主和下面复测的朋友用的具体型号帖子里没写,这里只是按零售版推测,没有核实)
                          • 实测:257 W 时约 2200 MHz;提到 350 W 后在 2200~2480 MHz 之间来回跳

                          所以楼主的 TP2 那部分(1 MP 时 2.30×)单卡抄不了;能抄的是环境自查和注意力那一段。

                          二、DynamicVRAM 在我这儿开不了

                          按帖子参数试的:--enable-dynamic-vram --use-ck-attention --mmap-torch-files。

                          aimdo 本身能起来(comfy-aimdo 0.6.0,识别到 24560 MB),但第一个 VAE 编码触发的部分卸载就崩:

                          aimdo: model-vbar.c:269 ERROR: Could not reserve Virtual Address space for VBAR
                          MemoryError: VBAR allocation failed
                          

                          10 秒结束,一步都没跑。系统限制我都排除了:vm.overcommit_memory=0、vm.max_map_count=1048576、服务 LimitAS/DATA=infinity,都正常。差别在版本:我用的是 ROCm 7.2.0(发行版包),楼主环境是 7.2.26015(更新的构建)。结论就是 VBAR 这套虚拟地址预留机制在我这个构建上用不了,要开 DV 得升级 ROCm 且 torch 同源,风险太大,暂时不开。

                          三、试着提功耗:只有 6%,撞的是温度墙

                          同一配置:832×480 / 362 帧 / 4 步 / res_multistep,int8 20.9 GB + nvfp4 编码器 + kitchen attention,无分块。

                          功耗上限 s/it 采样 端到端 峰值显存
                          257 W(默认) 65.14 4:20 390.4 s 23.96 GiB
                          350 W 61.06 4:04 380.5 s 23.93 GiB

                          只快了 6.3%。350 W 那轮的温度:edge 79 °C、junction(热点)104 °C、显存 84 °C,而 junction 限值是 110 °C。

                          关键在功耗数字:平均只有 243 W,离 350 W 上限还差 30%。所以不是撞功耗墙,是撞温度墙——热点到 104 °C 后 SMU 自己压频,功耗自然上不去。结论:不固化 350 W,已还原 257 W。为 6% 常年 95~104 °C 不值得。

                          四、单卡校准:确实慢,但不是降级路径

                          和帖子里 @6cccccc 的单卡复测对照:

                          • 832×480 / 362 帧 / 4 步:我 65.14 s/it,他 50.58,慢 29%
                          • 1 MP / 362 帧 / 4 步:我 310 s/步,他 245.67,慢 26%

                          两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

                          当前极限:0.4 MP / 362 帧 = 65 s/it;1 MP / 362 帧 = 310 s/步。

                          后面还没试的方向:undervolt(同频降温,也许能让 350 W 站得住)、ROCm 升级后开 DV、以及算法层的 3 步 LoRA / 时间维切段 / 降分辨率。暂时到这儿,有新招再来更新。

                          xiongjie gaoX 1 条回复 最后回复
                          2
                          • 天知道天 天知道

                            在自己帖子补一个,方便同涡轮卡参考(话说我是不是应该改一下帖子标题,注明涡轮卡?)

                            我是蓝宝石的涡轮卡(不是常见的零售三风扇版)。照着自己的机器做了三组对照,把能抄的和抄不了的都写一下。

                            一、先说我这张卡:蓝宝石涡轮版

                            • 品牌型号:蓝宝石 7900 XTX 涡轮版
                            • 功耗上限默认 257 W(可调范围 231~350 W)
                            • 一般零售 7900 XTX 是 339~355 W、boost 约 2500 MHz(说明一下:楼主和下面复测的朋友用的具体型号帖子里没写,这里只是按零售版推测,没有核实)
                            • 实测:257 W 时约 2200 MHz;提到 350 W 后在 2200~2480 MHz 之间来回跳

                            所以楼主的 TP2 那部分(1 MP 时 2.30×)单卡抄不了;能抄的是环境自查和注意力那一段。

                            二、DynamicVRAM 在我这儿开不了

                            按帖子参数试的:--enable-dynamic-vram --use-ck-attention --mmap-torch-files。

                            aimdo 本身能起来(comfy-aimdo 0.6.0,识别到 24560 MB),但第一个 VAE 编码触发的部分卸载就崩:

                            aimdo: model-vbar.c:269 ERROR: Could not reserve Virtual Address space for VBAR
                            MemoryError: VBAR allocation failed
                            

                            10 秒结束,一步都没跑。系统限制我都排除了:vm.overcommit_memory=0、vm.max_map_count=1048576、服务 LimitAS/DATA=infinity,都正常。差别在版本:我用的是 ROCm 7.2.0(发行版包),楼主环境是 7.2.26015(更新的构建)。结论就是 VBAR 这套虚拟地址预留机制在我这个构建上用不了,要开 DV 得升级 ROCm 且 torch 同源,风险太大,暂时不开。

                            三、试着提功耗:只有 6%,撞的是温度墙

                            同一配置:832×480 / 362 帧 / 4 步 / res_multistep,int8 20.9 GB + nvfp4 编码器 + kitchen attention,无分块。

                            功耗上限 s/it 采样 端到端 峰值显存
                            257 W(默认) 65.14 4:20 390.4 s 23.96 GiB
                            350 W 61.06 4:04 380.5 s 23.93 GiB

                            只快了 6.3%。350 W 那轮的温度:edge 79 °C、junction(热点)104 °C、显存 84 °C,而 junction 限值是 110 °C。

                            关键在功耗数字:平均只有 243 W,离 350 W 上限还差 30%。所以不是撞功耗墙,是撞温度墙——热点到 104 °C 后 SMU 自己压频,功耗自然上不去。结论:不固化 350 W,已还原 257 W。为 6% 常年 95~104 °C 不值得。

                            四、单卡校准:确实慢,但不是降级路径

                            和帖子里 @6cccccc 的单卡复测对照:

                            • 832×480 / 362 帧 / 4 步:我 65.14 s/it,他 50.58,慢 29%
                            • 1 MP / 362 帧 / 4 步:我 310 s/步,他 245.67,慢 26%

                            两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

                            当前极限:0.4 MP / 362 帧 = 65 s/it;1 MP / 362 帧 = 310 s/步。

                            后面还没试的方向:undervolt(同频降温,也许能让 350 W 站得住)、ROCm 升级后开 DV、以及算法层的 3 步 LoRA / 时间维切段 / 降分辨率。暂时到这儿,有新招再来更新。

                            xiongjie gaoX
                            xiongjie gaoX
                            xiongjie gao
                            王侯将相
                            编写于 最后由 编辑
                            #17

                            @天知道 说:

                            两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

                            这个判断应该是正确的,结温过高导致降频。
                            这问题就有点麻爪了,涡轮卡的温度上限这么低?还是你的新卡导热没做好。要不要换张相变片?

                            https://github.com/shawn86574-prog/x99-7900xtx-p2p
                            https://github.com/shawn86574-prog/kuzuryusen

                            天知道天 1 条回复 最后回复
                            1
                            • xiongjie gaoX xiongjie gao

                              @天知道 说:

                              两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

                              这个判断应该是正确的,结温过高导致降频。
                              这问题就有点麻爪了,涡轮卡的温度上限这么低?还是你的新卡导热没做好。要不要换张相变片?

                              天知道天
                              天知道天
                              天知道
                              体面乡绅
                              编写于 最后由 编辑
                              #18

                              @xiongjie-gao 新卡没有动过撒热,先用着吧!自己改了散热万一有什么问题就没保修了。

                              1 条回复 最后回复
                              1
                              • terryT
                                terryT
                                terry
                                易有太极
                                编写于 最后由 编辑
                                #19

                                没想到情况这么复杂,还和散热有关,关于散热,我以前测试的时候蓝宝石的白金版,就是丐版在很多时候表现确实好于讯景的卡,当时很多人反应显卡过热,噪音过大,我都没遇到过。我的卡是系统默认303w,噪音最大的时候也能忍受。不过我很久没玩ComfyUI了,就之前测试过ltx2.3和H3刚发布的时候玩过。4090D的功耗如果打墙了,也会慢很多。

                                油管:https://www.youtube.com/@抡锤者

                                xiongjie gaoX 1 条回复 最后回复
                                0
                                • terryT terry

                                  没想到情况这么复杂,还和散热有关,关于散热,我以前测试的时候蓝宝石的白金版,就是丐版在很多时候表现确实好于讯景的卡,当时很多人反应显卡过热,噪音过大,我都没遇到过。我的卡是系统默认303w,噪音最大的时候也能忍受。不过我很久没玩ComfyUI了,就之前测试过ltx2.3和H3刚发布的时候玩过。4090D的功耗如果打墙了,也会慢很多。

                                  xiongjie gaoX
                                  xiongjie gaoX
                                  xiongjie gao
                                  王侯将相
                                  编写于 最后由 编辑
                                  #20

                                  @terry 涡轮卡的体质可能真没有三风扇那么耐造
                                  功率上阉割不少的情况下居然还有结温问题😨

                                  https://github.com/shawn86574-prog/x99-7900xtx-p2p
                                  https://github.com/shawn86574-prog/kuzuryusen

                                  1 条回复 最后回复
                                  1

                                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                  有了你的建议,这篇帖子会更精彩哦 💗

                                  注册 登录
                                  回复
                                  • 在新帖中回复
                                  登录后回复
                                  • 从旧到新
                                  • 从新到旧
                                  • 最多赞同


                                  • 登录

                                  • 登录或注册以进行搜索。
                                  • 第一个帖子
                                    最后一个帖子
                                  0
                                  • 版块
                                  • 最新
                                  • 标签
                                  • 热门
                                  • 用户
                                  • 群组