跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI音视频画图
  4. 【34.5 min → 3.3 min】用对注意力机制的2×7900XTX在H3流程中可以提速多少?—— 答案1050%↑

【34.5 min → 3.3 min】用对注意力机制的2×7900XTX在H3流程中可以提速多少?—— 答案1050%↑

已定时 已固定 已锁定 已移动 精华 热议 AI音视频画图
7900xtx视频生成多卡部署
59 帖子 15 发布者 2.9k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT terry

    @xiongjie-gao 不过我还是没认真看,明天又有事,简单总结下,这是双卡提升方案,单卡呢?单卡可以另发一个帖子,尝试下优化极限。
    @懒人烘培 我弟你懈怠了啊,周末发力!

    懒人烘培懒
    懒人烘培懒
    懒人烘培
    王侯将相
    编写于 最后由 编辑
    #9

    @terry 嗯嗯,有别的事情耽误了

    双 7900 XTX:模型本地跑,Token 随便烧!

    1 条回复 最后回复
    1
    • xiongjie gaoX xiongjie gao

      image.jpeg

      10.5×的提升有点神奇噢,但这跟我Comfy UI的体质有直接关系🤡
      因为常常做一现数据的复现,所以本地的Comfy Ui的环境已经被我搞得非常地复杂。大家可以简单地把它理解为我把它弄残了。832×480 / 15 秒 / 单条总耗时能跑出半个多小时。就是因为注意力机制后端失效。现在在捋顺的情况下,此消彼涨,数据自然很夸张。

      当然,也有间接的好处:在没有过度粉饰的情况下拿它拿标题就很吸睛。唉,就是传说中的标题党,震惊部。🤠

      这套项目该有的正常表现,希望大家多多跟贴。
      image.jpeg

      --------------------分割线-----------------------

      MiniMax-H3 · 7900 XTX 优化看板(文字版)

      日期:2026-11-13
      平台:AMD Radeon RX 7900 XTX 24 GB ×2 / ROCm 7.2.0 / ComfyUI(/home/jay/ComfyUI-AMD)
      工作流:MiniMax-H3(minimax_h3_fl2va_pruned-w4a8_convrot + turbo LoRA v4 step600)

      本文是 HTML 看板的 Markdown 版本,结构、数字与判定完全一致;图表以数据表 + 走势描述呈现。


      00 今天最大的成效

      一句话:83% 的收益来自一处环境修复——venv 里的 torch 与系统 ROCm 版本不同源,导致注意力后端整条失效。修好之后,15 秒档从"34.5 分钟且随时 OOM"变成"3.3 分钟且稳定出片"。

      指标 数值 说明
      单条总耗时 10.5× 832×480 / 15 秒:34.5 min → 3.3 min
      出片成功率 0 → 100% 1344×768 / 15 秒,峰值 23.82 / 23.98 GB
      单次注意力 6.2× 922.5 ms → 152.7 ms,根因是 whl-next 通道内核错配

      01 两个目标的判定

      目标 今天之前 现在 判定
      15 秒不 OOM 1344×768 直接崩溃(音频 VAE 申请 3.07 GiB 失败);832×480 靠 sub_quad 勉强跑但 34.5 min 832×480 与 1344×768 均稳定出片;峰值 20.0 / 23.82 GB 达成
      速度在常驻 2–3 倍内 常驻路径本身不可用,无法比较 0.4 MP 不触发权重换出,DynamicVRAM 开销仅 3.5%,等效 1.03× 常驻 超额达成

      前提变化:0.4 MP 根本不需要 offload(权重 11.9 GB + 激活 6–8 GB 可共存),所以"2–3 倍代价"这把尺子只对 1 MP 成立;而 1 MP 我们用 TP2 把权重对半分(每卡 6 GB),是绕开 offload,而不是把它做快。


      02 改动贡献:逐层叠加

      每一层只加一个变量。前三层为实测,第四层由实测的冷启动节省推算。

      图 1 · 单条 15 秒视频总耗时演进(832×480 / 8 步)

      image.jpeg

      阶段 配置 单条 相对上一级 占总收益
      起点 破损 torch → sub_quad 兜底,259 s/it 34.5 min — —
      ① 环境修复 torch 同源 + kitchen 注意力,53.7 s/it 8.6 min 4.0× 83%
      ② 步数 8 步 → 4 步 5.9 min 1.5× 8.7%
      ③ TP2 两卡张量并行,31.9 s/it 4.5 min 1.3× 4.5%
      ④ 常驻实例 复用进程,省掉冷启动 3.3 min 1.4× 3.8%

      03 核心指标:每步耗时(s/it)

      image.jpeg

      图 2 · 三种注意力后端 × 三种序列长度

      场景 sub_quad 兜底 kitchen · 单卡 kitchen · TP2
      832×480 · 124 帧 53 15.5 —
      832×480 · 362 帧 259 53.7 31.9
      1344×768 · 362 帧 OOM 257.9 112.3

      走势:sub_quad 与 kitchen 在 124 帧差 3.4 倍,在 362 帧差 4.8 倍——序列越长差距越大;TP2 把整条曲线向下平移,1 MP 处收益最大(2.30×)。

      图 3 · 每 token 耗时随序列长度增长

      序列长度 ms/token 相对 48k
      48k 0.32 1.0×
      84k 0.72 2.3×
      142k 1.82 5.7×

      image.jpeg

      线性基线应约 0.55 ms/token,实测斜率明显更陡。这是注意力的平方项,也是 1 MP 比 0.4 MP 慢 4.8 倍(而不是 2.5 倍)的原因,同时排除了"每步换权重"的猜测。


      04 显存:真正的墙在哪

      图 4 · 峰值显存与 24 GB 物理上限

      配置 峰值 占可用上限(23.98 GB)
      0.4 MP · 不开 DV 18.65 GB 77.8%
      0.4 MP · 开 DV 19.96 GB 83.2%
      1 MP · 开 DV 单卡 23.82 GB 99.3%

      image.jpeg

      0.4 MP 开不开 DynamicVRAM 都安全;1 MP 单卡开 DV 后离墙只剩 0.16 GB,因此 1 MP 的推荐路径是 TP2 而不是单卡硬撑。


      05 失败档案:走过的弯路

      失败项不是噪声,它们各自排除了一个假设。

      F1 · torch 版本错配 → SDPA 全后端失效
      whl-next 的 2.14.0+rocm10.1.0 链到系统 ROCm 7.2,AOTriton 内核加载即失败,报 hipErrorInvalidImage,ComfyUI 静默退回 sub_quad。
      教训:ROCm 环境里必须让 wheel 与系统 ROCm 同源,否则内核不可用且不报错,只降速。

      F2 · sub_quad 兜底能跑,但慢 6 倍
      922.5 ms/次注意力,端到端 490 s。能出片,掩盖了"后端已坏"这个事实。
      教训:"能出片"不等于"跑在正确路径上",需要用微基准校验单算子延迟。

      F3 · --novram:权重全放 CPU 反而更慢
      362 帧实测 275 s/it,比全驻留的 259 还差 6%。
      教训:直接证伪"权重换入换出是瓶颈",也是后来判定不做逐 block 流式的关键证据。

      F4 · max_split_size_mb 调优:噪声内
      54.3 vs 56.4 s/it,差异小于批次抖动;DV 模式下该参数本就不参与分配。
      教训:碎片类参数只在显存分配器主导时有意义,aimdo 用 VBAR 绕过了它。

      F5 · 1 MP 不开 DV:FFN 6.25 GB 分配失败
      权重 11.9 GB 常驻后,激活峰值无处安放,第一步就 OOM。
      教训:1 MP 必须开 DV 或 TP2,没有第三条路。

      F6 · 1 MP + chunk 节点:302 s/it,第 2 步仍 OOM
      分块 FFN 把单次分配压下去了,但总驻留没降。
      教训:峰值削峰不等于总量够用,要看"权重 + 激活"的总账。

      F7 · 以为 pytorch 注意力是安全回退,结果也 OOM
      修好 torch 后 SDPA 走 math 后端,attention.py:615 在 124 帧就要单次分配 23.06 GiB,362 帧无解。
      教训:kitchen 不是"更快的选项",而是当前 build 下唯一能跑的通路。

      F8 · 同 seed 重复提交:7.1 s 的假加速
      ComfyUI 节点缓存命中,看起来像 30 倍提速。
      教训:测冷热启动必须换 seed,否则结论全废。

      F9 · avcodec EINVAL:最后一步毁掉整条任务
      视频流已 flush,封装音频时返回 22,362 帧批次普遍出现,10 分钟算力白费。
      教训:已加"降级为无声视频"兜底;根因未定位,属已知残留问题。

      F10 · 逐 block 流式(方案 B):判定不做
      原计划自研 pinned CPU + 侧流预取。前提是"259 s/it 来自权重抖动",而该前提被 F3 与图 3 同时证伪。
      教训:aimdo 的 VBAR 已是同类机制(实测只值 3.5%),再写一套只会更慢。重启条件:--novram 慢 2 倍以上。

      F11 · 移植 comfy-aimdo 原生层:不可行
      它是 CUDA VMM(VBAR / 32 MB 页 / fault / watermark),NVIDIA 专有接口。
      教训:ROCm 版 aimdo_rocm.so 存在,只是被 rocm >= 7.14 的版本闸挡住——这才是 --enable-dynamic-vram 生效的原因。

      F12 · 音频 VAE 一次性编码:15 秒档必崩
      1344×768 / 362 帧时申请 3.07 GiB 失败。
      教训:按 5 秒切段编码(_encode_audio_chunked)后 OOM 消失,是目标一的基础。


      06 本机环境与软件栈(复现基线)

      版本错配(见 F1)会直接导致 6 倍降速,下表为实测时的确切版本。

      硬件

      项目 实测值 备注
      GPU AMD Radeon RX 7900 XTX 24 GB ×2 gfx1100,RDNA3
      显存可用上限 23.98 GB rocm-smi 报告 24560 MiB
      PCIe 4.0 ×8(8.0 GT/s) 非 ×16,影响主机↔显存搬运
      CPU Intel Xeon E5-2696 v4 @ 2.20 GHz —
      内存 125 GB 足够放下 26 GB 文本编码器

      软件栈

      组件 版本 关键性
      OS Ubuntu 24.04.5 LTS,kernel 7.0.0-42-generic —
      ROCm 7.2.26015-fc0010cf6a 必须与 torch 同源
      Python 3.12.3 venv:/home/jay/ComfyUI-AMD/venv
      torch 2.14.1+rocm7.2 核心修复
      torchvision 0.29.1+rocm7.2 随 torch 同步
      torchaudio 2.11.0+rocm7.2 随 torch 同步
      triton 3.8.0+git669b31ac.rocm10.1.0 仍为 10.1 构建,残留风险
      numpy / safetensors / av 2.5.4 / 0.8.0 / 19.0.2 —
      ComfyUI commit 423cbd20(2026-10-30) /home/jay/ComfyUI-AMD/ComfyUI
      TP 扩展 comfyui-tp2 日志出现 heads 56->28 即生效

      模型文件

      角色 文件 体积
      DiT(生产用) minimax_h3_fl2va_pruned-w4a8_convrot_pruned 11.7 GB
      DiT(对照) minimax_h3_fl2va_pruned_int8_convrot 20 GB
      文本编码器 qwen3vl_32b_minimax_h3-w4a8_convrot 26 GB
      视频 VAE Minimax_h3_video_vae_fp16 4.9 GB
      音频 VAE Minimax_H3_fp32_audio_vae 578 MB
      LoRA minimax_h3_turbo_v4_step600_ema_pruned_comfyui 592 MB

      环境自检(复现前先跑这三条)

      /opt/rocm-7.2.0/bin/hipconfig --version          # 期望 7.2.26015-fc0010cf6a
      /home/jay/ComfyUI-AMD/venv/bin/python -m pip list | grep -E "^(torch|triton)"
      # 期望 torch 2.14.1+rocm7.2
      /home/jay/ComfyUI-AMD/venv/bin/python attn_path_bench.py   # 期望 seq=8192 单次 ≤200 ms
      

      若出现 hipErrorInvalidImage 或单次注意力 > 800 ms,说明内核与运行时再次错配,执行回退。


      07 复现步骤与期望值

      所有命令在 /home/jay/tp2 下执行。前置:strata.service 为 active(日常双卡态)。

      # 通用启动
      COMFY=/home/jay/ComfyUI-AMD/ComfyUI \
      PY=/home/jay/ComfyUI-AMD/venv/bin/python \
      EXTRA_ARGS="--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory" \
      bash run_tp.sh <world> <base_port> <tag>
      
      # 收尾(必须执行,恢复日常态)
      pkill -f "port <base_port>"
      bash /home/jay/strata/scripts/gpu-mode.sh release --reason "bench done"
      

      通用 bench 模板

      /home/jay/sglang-venv/bin/python bench.py \
        --ports <port> --outdirs logs/<tag>/o --timings logs/<tag>/t.json \
        --unet minimax_h3_fl2va_pruned-w4a8_convrot_pruned.safetensors \
        --clip qwen3vl_32b_minimax_h3-w4a8_convrot.safetensors \
        --vae Minimax_h3_video_vae_fp16.safetensors \
        --audio-vae Minimax_H3_fp32_audio_vae.safetensors \
        --lora minimax_h3_turbo_v4_step600_ema_pruned_comfyui.safetensors \
        --width <W> --height <H> --frames <F> --steps <N> --seed <S> \
        --tag <tag> --result logs/<tag>/r.json
      

      场景与期望值

      场景 参数 期望 s/it 期望端到端 峰值
      S1 注意力自检 attn_path_bench.py ≤200 ms/次 — —
      S2 0.4 MP / 15 s / 8 步 / 单卡 832×480, 362f, seed 201 53.7 ±10% 517 s ±15% 20.0 GB
      S3 0.4 MP / 15 s / 8 步 / TP2 同上,双卡端口 31.9 ±10% ≈4.3 min —
      S4 1 MP / 15 s / 2 步 / TP2 1344×768, 362f 112.3 ±10% 3:44 采样 未测
      S5 1 MP / 15 s / 2 步 / 单卡 同上 257.9 ±10% 662 s ≤23.9 GB
      S6 热启动 同实例第二条,换 seed — 81.3 s(-49%) —

      测量陷阱:同 seed 重复提交会命中 ComfyUI 节点缓存,得到 7.1 s 的假加速(F8)。所有对比必须换 seed。


      08 回退与环境还原

      SP=/home/jay/ComfyUI-AMD/venv/lib/python3.12/site-packages
      B=/home/jay/ComfyUI-AMD/backup_whlnext_20261113
      rm -rf $SP/torch $SP/torchvision $SP/torchaudio $SP/triton
      cp -a $B/torch $B/torchvision $B/torchaudio $B/triton $B/*.dist-info $SP/
      

      去掉 --use-ck-attention 等参数启动即回到原始路径(会退回 sub_quad,速度约为当前的 1/6)。


      附:数据来源与口径

      • 数据来源:本机 2026-11-13 实测日志(/home/jay/tp2/logs/)。

      • 图中"推算"项已标注:TP2 + 4 步的端到端为采样实测 + 冷启动开销推算,非整条实测。

      • 未验证项:640×368 / 362 帧在 kitchen 下的数字未重测;1 MP 的 4 步为外推。

      懒人烘培懒
      懒人烘培懒
      懒人烘培
      王侯将相
      编写于 最后由 编辑
      #10

      @xiongjie-gao 提升明显我也复测了一下单卡7900XTX:

      交作业|单张 7900 XTX 跑 MiniMax-H3,15 秒有声视频,4 步热跑 4 分 14 秒

      按楼主的配置在本机复测了一遍。全程只用一张 RX 7900 XTX 24 GB,分辨率 832×480,362 帧 / 24 fps,约 15 秒。

      配置

      • 主模型:minimax_h3_fl2va_pruned-w4a8_convrot_pruned
      • LoRA:minimax_h3_turbo_v4_step600_ema_pruned_comfyui,强度 1.0
      • 采样器:res_multistep,调度器:simple
      • 软件:ComfyUI 0.40.0,PyTorch 2.11.0+rocm7.2,Comfy Kitchen 0.2.37
      • 启动参数:--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory

      实测成绩

      单卡配置 采样耗时 平均每步 提交到输出 峰值显存
      8 步冷跑,seed 201 6 分 40 秒 50.1 秒 7 分 47 秒到原版封装报错,随后补回音轨 20.04 GiB
      4 步热跑,seed 202 3 分 20 秒 50.1 秒 4 分 14 秒,含有声 MP4 合成 20.08 GiB

      8 步单卡实测 50.1 秒/步,比楼主单卡的 53.7 秒/步少约 7%。如果之前的 36 分钟也是同分辨率、同帧数、同为 8 步,按这轮到封装阶段的耗时算,约省 28 分钟。4 步用了热实例,也少跑了 4 步,画质还没做同 seed 对比。

      音频封装踩坑

      8 步跑完后,原版 SaveVideo 复现了 avcodec_send_frame() returned 22。当时 362 帧画面已经写进 MP4,我用 SaveAudio 从节点缓存导出 FLAC,再转成 AAC 合回原视频,无需重跑采样。4 步这轮直接分开导出视频和音频,最后合成。

      两份成片都已验证能解码,包含 362 帧画面和立体声音轨。

      双 7900 XTX:模型本地跑,Token 随便烧!

      terryT 1 条回复 最后回复
      2
      • 懒人烘培懒 懒人烘培

        @xiongjie-gao 提升明显我也复测了一下单卡7900XTX:

        交作业|单张 7900 XTX 跑 MiniMax-H3,15 秒有声视频,4 步热跑 4 分 14 秒

        按楼主的配置在本机复测了一遍。全程只用一张 RX 7900 XTX 24 GB,分辨率 832×480,362 帧 / 24 fps,约 15 秒。

        配置

        • 主模型:minimax_h3_fl2va_pruned-w4a8_convrot_pruned
        • LoRA:minimax_h3_turbo_v4_step600_ema_pruned_comfyui,强度 1.0
        • 采样器:res_multistep,调度器:simple
        • 软件:ComfyUI 0.40.0,PyTorch 2.11.0+rocm7.2,Comfy Kitchen 0.2.37
        • 启动参数:--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory

        实测成绩

        单卡配置 采样耗时 平均每步 提交到输出 峰值显存
        8 步冷跑,seed 201 6 分 40 秒 50.1 秒 7 分 47 秒到原版封装报错,随后补回音轨 20.04 GiB
        4 步热跑,seed 202 3 分 20 秒 50.1 秒 4 分 14 秒,含有声 MP4 合成 20.08 GiB

        8 步单卡实测 50.1 秒/步,比楼主单卡的 53.7 秒/步少约 7%。如果之前的 36 分钟也是同分辨率、同帧数、同为 8 步,按这轮到封装阶段的耗时算,约省 28 分钟。4 步用了热实例,也少跑了 4 步,画质还没做同 seed 对比。

        音频封装踩坑

        8 步跑完后,原版 SaveVideo 复现了 avcodec_send_frame() returned 22。当时 362 帧画面已经写进 MP4,我用 SaveAudio 从节点缓存导出 FLAC,再转成 AAC 合回原视频,无需重跑采样。4 步这轮直接分开导出视频和音频,最后合成。

        两份成片都已验证能解码,包含 362 帧画面和立体声音轨。

        terryT
        terryT
        terry
        易有太极
        编写于 最后由 编辑
        #11

        @懒人烘培 分辨率提升点啊,这个太低了。不需要一定跑通,测试下极限。

        油管:https://www.youtube.com/@抡锤者

        懒人烘培懒 1 条回复 最后回复
        0
        • xiongjie gaoX xiongjie gao

          @terry 已经包含单双卡的提升可能。
          image.jpeg

          单卡就是不享受TP2带来的1.3的提升倍率。不过随着分辨率提升享受摊薄收益。
          7900XTX单卡提升是不是只是不享受TP2的1.3倍率?测个样本试试

          20:40

          TRAE

          任务耗时 1m 16s

          已创建 1 个文件,读取 2 个文件,搜索 1 次文件,执行 7 条命令

          对照实验已跑起来(Strata 已挂起,两档都用 832×480 / 362 帧 / 4 步 / 同一 seed,只差单卡与 TP2):

          • ① 单卡 356 s 左右
          • ② TP2 257 s 左右
            约 15 分钟出结果。先说清楚这条“1.3×”其实不统一,跑完正好能核对:

          档位 TP2 倍率 依据 0.4 MP / 4 步 1.39× 356.4 → 257 s 0.4 MP / 8 步 1.68× 53.7 → 31.9 s/it 1 MP / 2 步 2.30× 257.9 → 112.3 s/it

          所以“单卡只是少了 1.3×”只在 4 步那一档成立。8 步时是 1.68×,1 MP 时是 2.30×——序列越长,TP2 收益越大,因为它的作用是把每张卡的权重和激活同时减半,不只是并行算力。

          还有一个更根本的点值得这次一并验证: 10.5× 里 TP2 只占 4.5% 。单卡相对起点的真实提升是 34.5 min → 5.9 min,约 5.85× ,不是 10.5×。10.5× 是把“TP2 + 常驻实例”也叠上去了,而那两项是有条件的(要双卡、要连续出片)。如果这次测出单卡确实落在 5.9 min 附近,就说明我们的报告头号数字需要标注成“叠满配置后的上限”,而不是单卡能力。

          跑完我把两档的 s/it、端到端、峰值一起给你。

          terryT
          terryT
          terry
          易有太极
          编写于 最后由 编辑
          #12

          @xiongjie-gao 嗯,我今晚就不做视频了,明天回来抄作业。测出单卡点显存极限,分辨率,时长,我剽一期视频。

          油管:https://www.youtube.com/@抡锤者

          xiongjie gaoX 懒人烘培懒 2 条回复 最后回复
          0
          • terryT terry

            @xiongjie-gao 嗯,我今晚就不做视频了,明天回来抄作业。测出单卡点显存极限,分辨率,时长,我剽一期视频。

            xiongjie gaoX
            xiongjie gaoX
            xiongjie gao
            王侯将相
            编写于 最后由 编辑
            #13

            @terry 👍

            https://github.com/shawn86574-prog/x99-7900xtx-p2p
            https://github.com/shawn86574-prog/kuzuryusen

            1 条回复 最后回复
            0
            • williamlouisW
              williamlouisW
              williamlouis
              易有太极
              编写于 最后由 编辑
              #14

              AMD涨价的重要贡献者。千万不要放社区共享。给入手7900XTX的兄弟留点时间。

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              xiongjie gaoX 1 条回复 最后回复
              1
              • terryT terry

                @懒人烘培 分辨率提升点啊,这个太低了。不需要一定跑通,测试下极限。

                懒人烘培懒
                懒人烘培懒
                懒人烘培
                王侯将相
                编写于 最后由 编辑
                #15

                @terry 好的,目前正在测试

                双 7900 XTX:模型本地跑,Token 随便烧!

                1 条回复 最后回复
                1
                • 6
                  6
                  6cccccc
                  编写于 最后由 编辑
                  #16

                  抄了一下作业,让deepseek测的的结果
                  实测结果
                  统一条件:minimax_h3_fl2va_pruned_int8_convrot(20 G)+ qwen3vl_32b_int4(14 G)+ lightx2v turbo v4 LoRA 0.75、362 帧(15 s @24fps)、4 步、res_multistep、DV + int8 注意力全开。

                  分辨率 s/it 采样 端到端(含冷启动)
                  832×480 50.58 3:22 4 分 40 秒(280.2 s)
                  1344×768 245.67 16:23 18 分 36 秒(1115.7 s)
                  两条产物都是 362 帧、15.08 秒、带 AAC 音轨,解码保存都正常

                  xiongjie gaoX 1 条回复 最后回复
                  1
                  • K
                    K
                    koala
                    硕果累累 贵族大夫
                    编写于 最后由 编辑
                    #17

                    测试过程相当详细,如果楼主方便的时候把生成出来的视频也粘贴一下,看看实际效果。
                    怎么说呢,数值是有绝对提升的,但是视频这个东西,最后是要看动画效果的,能动的不一定能用。
                    比如一条龙环绕人体,或者空中高速移动的时候,加速到这种程度还能正常观赏,那就是比较实用的。

                    xiongjie gaoX 1 条回复 最后回复
                    1
                    • terryT terry

                      @xiongjie-gao 嗯,我今晚就不做视频了,明天回来抄作业。测出单卡点显存极限,分辨率,时长,我剽一期视频。

                      懒人烘培懒
                      懒人烘培懒
                      懒人烘培
                      王侯将相
                      编写于 最后由 编辑
                      #18

                      @terry

                      交作业|单张 7900 XTX 跑 MiniMax-H3,1536×864、15 秒、4 步有声出片

                      本机用一张 RX 7900 XTX 24 GB 跑 MiniMax-H3,1536×864、362 帧(15.08 秒)、4 步已完整有声出片。提交到出片用时 28 分 01 秒,峰值显存 23.82 GiB,四步采样和 VAE 解码均通过。

                      864p-4step.jpg

                      配置

                      • 主模型:minimax_h3_fl2va_pruned-w4a8_convrot_pruned
                      • LoRA:minimax_h3_turbo_v4_step600_ema_pruned_comfyui,强度 1.0
                      • 采样器:res_multistep,调度器:simple,24 fps
                      • 环境:ComfyUI 0.40.0、PyTorch 2.11.0+rocm7.2、Comfy Kitchen 0.2.37
                      • 启动参数:--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory
                      • 导出:视频与音频分开导出,再合成 H.264 + AAC MP4

                      配置参考@xiongjie-gao 贴文。

                      4 步有声出片对比

                      分辨率 帧数 / 时长 采样用时 端到端用时 峰值显存
                      1280×736 362 / 15.08 秒 13 分 52 秒 15 分 54 秒 23.86 GiB
                      1536×864 362 / 15.08 秒 25 分 14 秒 28 分 01 秒 23.82 GiB

                      兼顾分辨率和耗时,推荐 1280×736、约 15 秒、4 步。 需要更高分辨率时,1536×864 同规格已经跑通,像素数多约 41%,本轮出片多等 12 分 07 秒。两档各有一次成功实测,连续多轮的稳定性还有待验证。

                      720p-4step.jpg

                      单卡显存边界

                      本机可用显存 23.98 GiB。成功档最高测到 23.86 GiB,余量约 120 MiB。下表的 1 步用于测试采样、解码和导出能否通过。OOM 档的显存峰值只包含已成功分配的显存。

                      测试方向 成功档 首步 OOM 档
                      固定 362 帧 / 15.08 秒,提高分辨率 1536×864,4 步,峰值 23.82 GiB 1728×960,1 步,申请 2.33 GiB 时剩 2.21 GiB;1920×1088 也触发 OOM
                      固定 1280×736,增加时长 549 帧 / 22.88 秒,1 步,10 分 12 秒有声出片,峰值 23.55 GiB 617 帧 / 25.71 秒,1 步,申请 1.70 GiB 时剩 576 MiB

                      下图取自 22.88 秒压力测试的第 18 秒。这个时长已验证 1 步有声出片,4 步仍待实测。

                      23s-limit.jpg

                      结论

                      单张 RX 7900 XTX 24 GB 已实测跑通 1536×864、362 帧(15.08 秒)、4 步的 MiniMax-H3 有声视频。整条用时 28 分 01 秒,峰值显存 23.82 GiB。同样是 15 秒,升到 1728×960 就在首步遇到显存不足。

                      日常兼顾分辨率和耗时,我推荐 1280×736、15 秒、4 步,本机实测 15 分 54 秒。有更高分辨率需求时,可以用已经跑通的 1536×864,同样 4 步多等约 12 分钟。这两个档位各完成了一次有声出片,连续跑多条的稳定性还待验证。

                      双 7900 XTX:模型本地跑,Token 随便烧!

                      xiongjie gaoX 1 条回复 最后回复
                      2
                      • Ang LeeA
                        Ang LeeA
                        Ang Lee
                        体面乡绅
                        编写于 最后由 编辑
                        #19

                        你的和我之前测的感觉速度差不多一样吧?有不对可以更正我。
                        https://lcz.me/topic/1168

                        xiongjie gaoX 1 条回复 最后回复
                        1
                        • 天知道天
                          天知道天
                          天知道
                          体面乡绅
                          编写于 最后由 编辑
                          #20

                          补一个涡轮卡测试:

                          我是蓝宝石的涡轮卡(不是常见的零售三风扇版)。照着自己的机器做了三组对照,把能抄的和抄不了的都写一下。

                          一、先说我这张卡:蓝宝石涡轮版

                          • 品牌型号:蓝宝石 7900 XTX 涡轮版
                          • 功耗上限默认 257 W(可调范围 231~350 W)
                          • 一般零售 7900 XTX 是 339~355 W、boost 约 2500 MHz(说明一下:楼主和下面复测的朋友用的具体型号帖子里没写,这里只是按零售版推测,没有核实)
                          • 实测:257 W 时约 2200 MHz;提到 350 W 后在 2200~2480 MHz 之间来回跳

                          所以楼主的 TP2 那部分(1 MP 时 2.30×)单卡抄不了;能抄的是环境自查和注意力那一段。

                          二、DynamicVRAM 在我这儿开不了

                          按帖子参数试的:--enable-dynamic-vram --use-ck-attention --mmap-torch-files。

                          aimdo 本身能起来(comfy-aimdo 0.6.0,识别到 24560 MB),但第一个 VAE 编码触发的部分卸载就崩:

                          aimdo: model-vbar.c:269 ERROR: Could not reserve Virtual Address space for VBAR
                          MemoryError: VBAR allocation failed
                          

                          10 秒结束,一步都没跑。系统限制我都排除了:vm.overcommit_memory=0、vm.max_map_count=1048576、服务 LimitAS/DATA=infinity,都正常。差别在版本:我用的是 ROCm 7.2.0(发行版包),楼主环境是 7.2.26015(更新的构建)。结论就是 VBAR 这套虚拟地址预留机制在我这个构建上用不了,要开 DV 得升级 ROCm 且 torch 同源,风险太大,暂时不开。

                          三、试着提功耗:只有 6%,撞的是温度墙

                          同一配置:832×480 / 362 帧 / 4 步 / res_multistep,int8 20.9 GB + nvfp4 编码器 + kitchen attention,无分块。

                          功耗上限 s/it 采样 端到端 峰值显存
                          257 W(默认) 65.14 4:20 390.4 s 23.96 GiB
                          350 W 61.06 4:04 380.5 s 23.93 GiB

                          只快了 6.3%。350 W 那轮的温度:edge 79 °C、junction(热点)104 °C、显存 84 °C,而 junction 限值是 110 °C。

                          关键在功耗数字:平均只有 243 W,离 350 W 上限还差 30%。所以不是撞功耗墙,是撞温度墙——热点到 104 °C 后 SMU 自己压频,功耗自然上不去。结论:不固化 350 W,已还原 257 W。为 6% 常年 95~104 °C 不值得。

                          四、单卡校准:确实慢,但不是降级路径

                          和帖子里 @6cccccc 的单卡复测对照:

                          • 832×480 / 362 帧 / 4 步:我 65.14 s/it,他 50.58,慢 29%
                          • 1 MP / 362 帧 / 4 步:我 310 s/步,他 245.67,慢 26%

                          两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

                          当前极限:0.4 MP / 362 帧 = 65 s/it;1 MP / 362 帧 = 310 s/步。

                          后面还没试的方向:undervolt(同频降温,也许能让 350 W 站得住)、ROCm 升级后开 DV、以及算法层的 3 步 LoRA / 时间维切段 / 降分辨率。暂时到这儿,有新招再来更新。

                          xiongjie gaoX 1 条回复 最后回复
                          2
                          • XiaoteX
                            XiaoteX
                            Xiaote
                            易有太极
                            编写于 最后由 编辑
                            #21

                            🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

                            奖励凭证:热议 +3 分 · 编号 h3035-3256-1

                            老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                            1 条回复 最后回复
                            0
                            • J IJ
                              J IJ
                              J I
                              体面乡绅
                              编写于 最后由 J I 编辑
                              #22

                              我猜测楼主的测试跟我的TP2实战速度类似?
                              我是hybrid int8 基座+Pika 6步lora(兼顾画质跟速度) + CK 注意力后端 + sol attn 稀疏注意力,但是我是7张参考图,8秒768p 是 538秒(没跑15秒测试), 7900xtx 玩h3 还是双卡更有生产力,当然跑strata rdna3我觉得可能更适合,而且最新rdna3也开始支持tp2了, https://github.com/nicejunjie/Strata-rdna3#how-the-two-cards-are-used

                              terryT 1 条回复 最后回复
                              0
                              • J IJ J I

                                我猜测楼主的测试跟我的TP2实战速度类似?
                                我是hybrid int8 基座+Pika 6步lora(兼顾画质跟速度) + CK 注意力后端 + sol attn 稀疏注意力,但是我是7张参考图,8秒768p 是 538秒(没跑15秒测试), 7900xtx 玩h3 还是双卡更有生产力,当然跑strata rdna3我觉得可能更适合,而且最新rdna3也开始支持tp2了, https://github.com/nicejunjie/Strata-rdna3#how-the-two-cards-are-used

                                terryT
                                terryT
                                terry
                                易有太极
                                编写于 最后由 编辑
                                #23

                                @J-I 你的帖子是万恶之源,抛开长篇大论,精简点结论:同样的工作流,单卡7900XTX和5080在出片效果是否一致,然后速度差距是多大。你的生产选择是什么。

                                油管:https://www.youtube.com/@抡锤者

                                J IJ 1 条回复 最后回复
                                0
                                • terryT terry

                                  @J-I 你的帖子是万恶之源,抛开长篇大论,精简点结论:同样的工作流,单卡7900XTX和5080在出片效果是否一致,然后速度差距是多大。你的生产选择是什么。

                                  J IJ
                                  J IJ
                                  J I
                                  体面乡绅
                                  编写于 最后由 J I 编辑
                                  #24

                                  @terry 画质我对比过,同样模型和设置下,A 卡和 N 卡出片效果看起来一样。

                                  我之前测的是自己短片里的几个片段。双 7900 XTX TP2 测了 768p 8 秒,没测 768p 15 秒;不过也测了 1080p 8 秒。1080p 分辨率更高,8 秒的计算和显存压力跟 768p 15 秒已经比较接近,甚至可能更大。

                                  在我自己的工作流和 Vast.ai 租卡测试里,N 卡跟双 7900 TP2 的实际差距没有 2867 帖子里 5080 看起来那么大,大约最多两倍不到(而且我的双卡7900xtx限制了频率在2300,功耗最多也就跑220w)。我猜可能跟我的流程一直用了 Sol-Attn 稀疏注意力有关

                                  所以纯做 H3 视频,我目前更倾向 N 卡,比较省心。差距可能跟算子、驱动和 ComfyUI 生态都有关系,希望后面有社区大佬用ai帮忙优化一下 AMD 😄

                                  不过双 7900 也有自己的玩法:一张跑 Strata,另一张可以打游戏(这卡单卡游戏光栅性跟5080一样,价格只有一半?)、出图或者低分辨率跑 H3。我最后买了张 5070 Ti 专门跑 H3,双 7900 留给 Strata rdna3 tp。

                                  相关参赛贴: https://lcz.me/topic/3047

                                  terryT xiongjie gaoX 2 条回复 最后回复
                                  2
                                  • J IJ J I

                                    @terry 画质我对比过,同样模型和设置下,A 卡和 N 卡出片效果看起来一样。

                                    我之前测的是自己短片里的几个片段。双 7900 XTX TP2 测了 768p 8 秒,没测 768p 15 秒;不过也测了 1080p 8 秒。1080p 分辨率更高,8 秒的计算和显存压力跟 768p 15 秒已经比较接近,甚至可能更大。

                                    在我自己的工作流和 Vast.ai 租卡测试里,N 卡跟双 7900 TP2 的实际差距没有 2867 帖子里 5080 看起来那么大,大约最多两倍不到(而且我的双卡7900xtx限制了频率在2300,功耗最多也就跑220w)。我猜可能跟我的流程一直用了 Sol-Attn 稀疏注意力有关

                                    所以纯做 H3 视频,我目前更倾向 N 卡,比较省心。差距可能跟算子、驱动和 ComfyUI 生态都有关系,希望后面有社区大佬用ai帮忙优化一下 AMD 😄

                                    不过双 7900 也有自己的玩法:一张跑 Strata,另一张可以打游戏(这卡单卡游戏光栅性跟5080一样,价格只有一半?)、出图或者低分辨率跑 H3。我最后买了张 5070 Ti 专门跑 H3,双 7900 留给 Strata rdna3 tp。

                                    相关参赛贴: https://lcz.me/topic/3047

                                    terryT
                                    terryT
                                    terry
                                    易有太极
                                    编写于 最后由 terry 编辑
                                    #25

                                    @J-I 去把你的参赛帖子链接贴到你的回复中,你只发一个帖子,不要多发。

                                    油管:https://www.youtube.com/@抡锤者

                                    1 条回复 最后回复
                                    1
                                    • Leon YL
                                      Leon YL
                                      Leon Y
                                      体面乡绅 硕果累累
                                      编写于 最后由 编辑
                                      #26

                                      双 3090 + --use-ck-attention:单变量 A/B,端到端 1.95×

                                      平台:2× RTX 3090 24 GB(Ampere sm_86),NVLink 4(实测 P2P 49 GB/s),Ryzen 9 5950X,60 GB DDR4,Ubuntu 26.04 / CUDA 13.1 / torch 2.14.1+cu130

                                      工作流:MiniMax-H3 int8,576×1024,362 帧(15 s @ 24fps),8 步 + 8 步 turbo LoRA,res_multistep / simple,BasicGuider(无 CFG)

                                      A/B(同机同工作流,唯一变量是这个 flag):

                                      启动参数 日志里的后端 端到端
                                      main.py --port 8189 --listen 0.0.0.0 Using pytorch attention 891 s
                                      ... --use-ck-attention Using Comfy Kitchen attention 457 s
                                      1.95×
                                      补充观察:

                                      ① 先做注意力微基准,比"能不能出片"可靠

                                      python

                                      4096 token,SDPA×20 取均值

                                      正常: 2.7 ms/次 ← 健康
                                      异常: 数百 ms ← 静默降级
                                      这条来自你 F2 的思路,我照做了,确认没走兜底路径之后才去测端到端。

                                      ② 你的 F1 在 CUDA 上有等价陷阱:我用 torch 2.14.1+cu130 对系统 CUDA 13.1,同源。minor 版本错配同样会让内核失效且不报错。

                                      ③ --disable-pinned-memory 是我这边的必要设置:两个实例各驻留 23 GB 模型,60 GB RAM 放不下锁页缓冲区。代价是模型加载慢 1.5-3 倍,但只在加载阶段,采样不受影响。

                                      ④ 我现在是"双实例并行"而不是 TP2:两条片同时出,各自占一张卡。NVLink 插着但单实例 ComfyUI 用不到 —— 我试过 Comfy-H3-MultiStream(装得上、零依赖、六个节点正常),它的价值在"能原生跑 720×1280 而不是生成后放大",不在"更快",所以我暂时撤了。

                                      ⑤ 感谢那 12 条失败档案 —— F8(同 seed 命中节点缓存造出假的 7.1 s)和 F2 直接帮我省了时间。

                                      xiongjie gaoX 1 条回复 最后回复
                                      1
                                      • williamlouisW williamlouis

                                        AMD涨价的重要贡献者。千万不要放社区共享。给入手7900XTX的兄弟留点时间。

                                        xiongjie gaoX
                                        xiongjie gaoX
                                        xiongjie gao
                                        王侯将相
                                        编写于 最后由 编辑
                                        #27

                                        @williamlouis 等大船货到了我就上车H100了。🤠

                                        https://github.com/shawn86574-prog/x99-7900xtx-p2p
                                        https://github.com/shawn86574-prog/kuzuryusen

                                        1 条回复 最后回复
                                        0
                                        • 6 6cccccc

                                          抄了一下作业,让deepseek测的的结果
                                          实测结果
                                          统一条件:minimax_h3_fl2va_pruned_int8_convrot(20 G)+ qwen3vl_32b_int4(14 G)+ lightx2v turbo v4 LoRA 0.75、362 帧(15 s @24fps)、4 步、res_multistep、DV + int8 注意力全开。

                                          分辨率 s/it 采样 端到端(含冷启动)
                                          832×480 50.58 3:22 4 分 40 秒(280.2 s)
                                          1344×768 245.67 16:23 18 分 36 秒(1115.7 s)
                                          两条产物都是 362 帧、15.08 秒、带 AAC 音轨,解码保存都正常

                                          xiongjie gaoX
                                          xiongjie gaoX
                                          xiongjie gao
                                          王侯将相
                                          编写于 最后由 编辑
                                          #28

                                          @6cccccc 速度上差不多,已经调教到能用的阶段了。

                                          https://github.com/shawn86574-prog/x99-7900xtx-p2p
                                          https://github.com/shawn86574-prog/kuzuryusen

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组