跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
ericyancwE

ericyancw

@ericyancw
取消关注 关注
关于
帖子
6
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 【34.5 min → 3.3 min】用对注意力机制的2×7900XTX在H3流程中可以提速多少?—— 答案1050%↑
    ericyancwE ericyancw
    AI音视频画图 7900xtx 视频生成 多卡部署

    单卡 R9700 32G 跑 MiniMax-H3优化效果:每步从 353 秒到 114 秒

    近期一直在搞R9700的Comfyui,搞得有点崩溃,我之前1344×768像素下,测出来的效果一直是每步 353 秒左右,做视频很痛苦。跟着大佬的帖子,让Agent梳理了下,目前提升到114秒

    环境

    项 对齐前 对齐后
    GPU AMD Radeon AI PRO R9700 32 GB(gfx1201) 同左(未变)
    系统 ROCm 7.2.53211 7.2.53211(未变)
    venv 里的 torch 2.10.0+rocm7.0 2.11.0+rocm7.2
    torch.version.hip 7.0.51831 7.2.26015
    torchvision 0.25.0+rocm7.0 0.26.0+rocm7.2
    torchaudio 2.10.0+rocm7.0 2.11.0+rocm7.2
    ComfyUI 0.41.0 0.41.0(未变)
    comfy_kitchen 0.2.38 0.2.38(未变)
    权重 主模型 ref2va_pruned-w4a8 12 GB + 编码器 qwen3vl_32b-int4 13.5 GB + VAE 5 GB ≈ 31 GB 同左(未变)
    出图规格 1344×768(1.03 MP)/ 294 帧 @ 24 fps = 12.25 秒 / 参考图 6 张(ref2v) 同左(未变)
    启动参数 无额外开关 --use-ck-attention --disable-smart-memory

    对齐前 torch 与系统 ROCm 分属 7.0 与 7.2(同大版本、次版本不同);对齐后两端均为 7.2。

    之前的问题:

    1. comfy_kitchen 0.2.38 其实早就装好了。 int8_attention_is_available() 在 R9700 上返回 True,HIP 后端也注册成功(backend hip: {'available': True, 'disabled': False})。
    2. 但 ComfyUI 一直没带 --use-ck-attention 启动,所以跑的一直是兜底路径。日志原话:[INFO] Using pytorch attention。
    3. 每步 353 秒就是这个兜底路径下的数字。作为参照,社区在 832×480 / 362 帧 / 8 步上测到 sub_quad 259 秒/步、CK 50.1 秒/步(外部数据,仅作量级参考)——353 秒与 sub_quad 那一档处于同一量级,而不是 CK 档。

    加上开关后日志变成:

    [INFO] Found comfy_kitchen backend hip: {'available': True, 'disabled': False, ...}
    [INFO] Using Comfy Kitchen attention
    [INFO] comfy-kitchen version: 0.2.38
    

    数据表

    # 环境 torch / 系统 ROCm 启动参数 注意力后端(日志原文) 步数 每步 采样 端到端
    1 之前 2.10.0+rocm7.0(HIP 7.0.51831)/ 7.2.53211 无额外开关 Using pytorch attention 8 ≈353 秒 未跑完 —
    2 现在 同上,未变 --use-ck-attention --disable-smart-memory Using Comfy Kitchen attention 4 114.35 秒 7 分 37 秒 13 分 56 秒
    3 现在 同上,未变 同上 同上 8 114.33 秒 15 分 14 秒 21 分 16 秒
    4 对齐后 2.11.0+rocm7.2(HIP 7.2.26015)/ 7.2.53211 同上 同上 4 114.37 秒 7 分 37 秒 未留存
    5 对齐后 同上 去掉 --use-ck-attention,仅 --disable-smart-memory Using pytorch attention 4 352.31 秒 23 分 29 秒 29 分 45 秒

    五行同为 1344×768、294 帧、同一套 int4 权重,差别只在启动开关与 torch 版本。第 2、4 行用 4 步 LoRA,第 3 行用 8 步 LoRA;每步 114.35 / 114.33 / 114.37,说明单步成本与步数、LoRA 档位都无关,也与 torch 版本无关。

    第 5 行是本轮补的关键对照:同一套 int4 权重、同一环境,只把 --use-ck-attention 去掉,每步从 114.37 秒回到 352.31 秒(3.08×)。这说明 3 倍差距完全由这一个开关造成,与其他变量无关。

    三条同口径结论:

    • 单步成本与步数、LoRA 档位无关:114.35 / 114.33 / 114.37。
    • 单步成本与 torch 小版本无关:114.35(rocm7.0)对 114.37(rocm7.2)。
    • 单步成本与权重精度档无关:353(fp8 组)对 352.31(int4 组),同一 SDPA 路径。

    横向对照:同分辨率、同后端,单卡 vs 双卡

    社区帖(RX 7900 XTX ×2,RDNA3,ROCm 7.2)与本机同分辨率实测并列。社区数据为其帖子表格原文,仅作量级对照;其序列为 362 帧,比本机 294 帧多 23%。

    机器 显卡 卡数 分辨率 / 帧 注意力后端 每步
    本机 R9700 32G(RDNA4) 1 1344×768 / 294 CK 114.37 秒
    社区 7900 XTX 24G(RDNA3) 2(TP2) 1344×768 / 362 CK 112.3 秒
    社区 7900 XTX 24G(RDNA3) 1 1344×768 / 362 CK 257.9 秒
    本机 R9700 32G 1 1344×768 / 294 通用 SDPA 352.4 秒
    社区 7900 XTX 24G 1 1344×768 / 362 sub_quad 兜底 OOM

    两点可直接引用:

    1. 一张 R9700 ≈ 两张 7900 XTX 的 TP2(114.37 对 112.3)。对方是两张卡张量并行,本机是一张卡。
    2. 同分辨率单卡对比:114.37 对 257.9,快 2.25×。 扣掉帧数差(294 对 362,少 19%)折算后仍快约 1.8×。

    低分辨率参照(社区,832×480 / 362 帧):sub_quad 兜底 259 秒、CK 单卡 53.7 秒、CK TP2 31.9 秒。该档像素仅 0.4 MP,约为本机 1.03 MP 的四成,不能与本机数字直接相比。

    对齐 torch 与系统 ROCm 之后:大版本内的对齐,收益基本没有

    先界定这次对齐的性质:venv 里 torch.version.hip 从 7.0.51831 变成 7.2.26015,系统是 7.2.53211,两端始终在 ROCm 7.x 这同一个大版本内,只差次版本。属于「大版本内对齐」——ROCm 同大版本保持 ABI 兼容,内核本来就能正常加载,可修的东西几乎没有。

    对齐类型 典型例子 预期收益 实测
    大版本内(本次) torch 7.0.51831 → 7.2.26015,系统 ROCm 7.2 接近 0,只消除隐患 114.35 → 114.37,+0.02%
    跨大版本 torch +rocm10.1.0 链系统 ROCm 7.2(社区) 高,属修复静默降级 4.8×(259 → 53.7)
  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组