跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI音视频画图
  4. 【34.5 min → 3.3 min】用对注意力机制的2×7900XTX在H3流程中可以提速多少?—— 答案1050%↑

【34.5 min → 3.3 min】用对注意力机制的2×7900XTX在H3流程中可以提速多少?—— 答案1050%↑

已定时 已固定 已锁定 已移动 精华 热议 AI音视频画图
7900xtx视频生成多卡部署
59 帖子 15 发布者 2.9k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Ang LeeA
    Ang LeeA
    Ang Lee
    体面乡绅
    编写于 最后由 编辑
    #19

    你的和我之前测的感觉速度差不多一样吧?有不对可以更正我。
    https://lcz.me/topic/1168

    xiongjie gaoX 1 条回复 最后回复
    1
    • 天知道天
      天知道天
      天知道
      体面乡绅
      编写于 最后由 编辑
      #20

      补一个涡轮卡测试:

      我是蓝宝石的涡轮卡(不是常见的零售三风扇版)。照着自己的机器做了三组对照,把能抄的和抄不了的都写一下。

      一、先说我这张卡:蓝宝石涡轮版

      • 品牌型号:蓝宝石 7900 XTX 涡轮版
      • 功耗上限默认 257 W(可调范围 231~350 W)
      • 一般零售 7900 XTX 是 339~355 W、boost 约 2500 MHz(说明一下:楼主和下面复测的朋友用的具体型号帖子里没写,这里只是按零售版推测,没有核实)
      • 实测:257 W 时约 2200 MHz;提到 350 W 后在 2200~2480 MHz 之间来回跳

      所以楼主的 TP2 那部分(1 MP 时 2.30×)单卡抄不了;能抄的是环境自查和注意力那一段。

      二、DynamicVRAM 在我这儿开不了

      按帖子参数试的:--enable-dynamic-vram --use-ck-attention --mmap-torch-files。

      aimdo 本身能起来(comfy-aimdo 0.6.0,识别到 24560 MB),但第一个 VAE 编码触发的部分卸载就崩:

      aimdo: model-vbar.c:269 ERROR: Could not reserve Virtual Address space for VBAR
      MemoryError: VBAR allocation failed
      

      10 秒结束,一步都没跑。系统限制我都排除了:vm.overcommit_memory=0、vm.max_map_count=1048576、服务 LimitAS/DATA=infinity,都正常。差别在版本:我用的是 ROCm 7.2.0(发行版包),楼主环境是 7.2.26015(更新的构建)。结论就是 VBAR 这套虚拟地址预留机制在我这个构建上用不了,要开 DV 得升级 ROCm 且 torch 同源,风险太大,暂时不开。

      三、试着提功耗:只有 6%,撞的是温度墙

      同一配置:832×480 / 362 帧 / 4 步 / res_multistep,int8 20.9 GB + nvfp4 编码器 + kitchen attention,无分块。

      功耗上限 s/it 采样 端到端 峰值显存
      257 W(默认) 65.14 4:20 390.4 s 23.96 GiB
      350 W 61.06 4:04 380.5 s 23.93 GiB

      只快了 6.3%。350 W 那轮的温度:edge 79 °C、junction(热点)104 °C、显存 84 °C,而 junction 限值是 110 °C。

      关键在功耗数字:平均只有 243 W,离 350 W 上限还差 30%。所以不是撞功耗墙,是撞温度墙——热点到 104 °C 后 SMU 自己压频,功耗自然上不去。结论:不固化 350 W,已还原 257 W。为 6% 常年 95~104 °C 不值得。

      四、单卡校准:确实慢,但不是降级路径

      和帖子里 @6cccccc 的单卡复测对照:

      • 832×480 / 362 帧 / 4 步:我 65.14 s/it,他 50.58,慢 29%
      • 1 MP / 362 帧 / 4 步:我 310 s/步,他 245.67,慢 26%

      两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

      当前极限:0.4 MP / 362 帧 = 65 s/it;1 MP / 362 帧 = 310 s/步。

      后面还没试的方向:undervolt(同频降温,也许能让 350 W 站得住)、ROCm 升级后开 DV、以及算法层的 3 步 LoRA / 时间维切段 / 降分辨率。暂时到这儿,有新招再来更新。

      xiongjie gaoX 1 条回复 最后回复
      2
      • XiaoteX
        XiaoteX
        Xiaote
        易有太极
        编写于 最后由 编辑
        #21

        🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

        奖励凭证:热议 +3 分 · 编号 h3035-3256-1

        老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

        1 条回复 最后回复
        0
        • J IJ
          J IJ
          J I
          体面乡绅
          编写于 最后由 J I 编辑
          #22

          我猜测楼主的测试跟我的TP2实战速度类似?
          我是hybrid int8 基座+Pika 6步lora(兼顾画质跟速度) + CK 注意力后端 + sol attn 稀疏注意力,但是我是7张参考图,8秒768p 是 538秒(没跑15秒测试), 7900xtx 玩h3 还是双卡更有生产力,当然跑strata rdna3我觉得可能更适合,而且最新rdna3也开始支持tp2了, https://github.com/nicejunjie/Strata-rdna3#how-the-two-cards-are-used

          terryT 1 条回复 最后回复
          0
          • J IJ J I

            我猜测楼主的测试跟我的TP2实战速度类似?
            我是hybrid int8 基座+Pika 6步lora(兼顾画质跟速度) + CK 注意力后端 + sol attn 稀疏注意力,但是我是7张参考图,8秒768p 是 538秒(没跑15秒测试), 7900xtx 玩h3 还是双卡更有生产力,当然跑strata rdna3我觉得可能更适合,而且最新rdna3也开始支持tp2了, https://github.com/nicejunjie/Strata-rdna3#how-the-two-cards-are-used

            terryT
            terryT
            terry
            易有太极
            编写于 最后由 编辑
            #23

            @J-I 你的帖子是万恶之源,抛开长篇大论,精简点结论:同样的工作流,单卡7900XTX和5080在出片效果是否一致,然后速度差距是多大。你的生产选择是什么。

            油管:https://www.youtube.com/@抡锤者

            J IJ 1 条回复 最后回复
            0
            • terryT terry

              @J-I 你的帖子是万恶之源,抛开长篇大论,精简点结论:同样的工作流,单卡7900XTX和5080在出片效果是否一致,然后速度差距是多大。你的生产选择是什么。

              J IJ
              J IJ
              J I
              体面乡绅
              编写于 最后由 J I 编辑
              #24

              @terry 画质我对比过,同样模型和设置下,A 卡和 N 卡出片效果看起来一样。

              我之前测的是自己短片里的几个片段。双 7900 XTX TP2 测了 768p 8 秒,没测 768p 15 秒;不过也测了 1080p 8 秒。1080p 分辨率更高,8 秒的计算和显存压力跟 768p 15 秒已经比较接近,甚至可能更大。

              在我自己的工作流和 Vast.ai 租卡测试里,N 卡跟双 7900 TP2 的实际差距没有 2867 帖子里 5080 看起来那么大,大约最多两倍不到(而且我的双卡7900xtx限制了频率在2300,功耗最多也就跑220w)。我猜可能跟我的流程一直用了 Sol-Attn 稀疏注意力有关

              所以纯做 H3 视频,我目前更倾向 N 卡,比较省心。差距可能跟算子、驱动和 ComfyUI 生态都有关系,希望后面有社区大佬用ai帮忙优化一下 AMD 😄

              不过双 7900 也有自己的玩法:一张跑 Strata,另一张可以打游戏(这卡单卡游戏光栅性跟5080一样,价格只有一半?)、出图或者低分辨率跑 H3。我最后买了张 5070 Ti 专门跑 H3,双 7900 留给 Strata rdna3 tp。

              相关参赛贴: https://lcz.me/topic/3047

              terryT xiongjie gaoX 2 条回复 最后回复
              2
              • J IJ J I

                @terry 画质我对比过,同样模型和设置下,A 卡和 N 卡出片效果看起来一样。

                我之前测的是自己短片里的几个片段。双 7900 XTX TP2 测了 768p 8 秒,没测 768p 15 秒;不过也测了 1080p 8 秒。1080p 分辨率更高,8 秒的计算和显存压力跟 768p 15 秒已经比较接近,甚至可能更大。

                在我自己的工作流和 Vast.ai 租卡测试里,N 卡跟双 7900 TP2 的实际差距没有 2867 帖子里 5080 看起来那么大,大约最多两倍不到(而且我的双卡7900xtx限制了频率在2300,功耗最多也就跑220w)。我猜可能跟我的流程一直用了 Sol-Attn 稀疏注意力有关

                所以纯做 H3 视频,我目前更倾向 N 卡,比较省心。差距可能跟算子、驱动和 ComfyUI 生态都有关系,希望后面有社区大佬用ai帮忙优化一下 AMD 😄

                不过双 7900 也有自己的玩法:一张跑 Strata,另一张可以打游戏(这卡单卡游戏光栅性跟5080一样,价格只有一半?)、出图或者低分辨率跑 H3。我最后买了张 5070 Ti 专门跑 H3,双 7900 留给 Strata rdna3 tp。

                相关参赛贴: https://lcz.me/topic/3047

                terryT
                terryT
                terry
                易有太极
                编写于 最后由 terry 编辑
                #25

                @J-I 去把你的参赛帖子链接贴到你的回复中,你只发一个帖子,不要多发。

                油管:https://www.youtube.com/@抡锤者

                1 条回复 最后回复
                1
                • Leon YL
                  Leon YL
                  Leon Y
                  体面乡绅 硕果累累
                  编写于 最后由 编辑
                  #26

                  双 3090 + --use-ck-attention:单变量 A/B,端到端 1.95×

                  平台:2× RTX 3090 24 GB(Ampere sm_86),NVLink 4(实测 P2P 49 GB/s),Ryzen 9 5950X,60 GB DDR4,Ubuntu 26.04 / CUDA 13.1 / torch 2.14.1+cu130

                  工作流:MiniMax-H3 int8,576×1024,362 帧(15 s @ 24fps),8 步 + 8 步 turbo LoRA,res_multistep / simple,BasicGuider(无 CFG)

                  A/B(同机同工作流,唯一变量是这个 flag):

                  启动参数 日志里的后端 端到端
                  main.py --port 8189 --listen 0.0.0.0 Using pytorch attention 891 s
                  ... --use-ck-attention Using Comfy Kitchen attention 457 s
                  1.95×
                  补充观察:

                  ① 先做注意力微基准,比"能不能出片"可靠

                  python

                  4096 token,SDPA×20 取均值

                  正常: 2.7 ms/次 ← 健康
                  异常: 数百 ms ← 静默降级
                  这条来自你 F2 的思路,我照做了,确认没走兜底路径之后才去测端到端。

                  ② 你的 F1 在 CUDA 上有等价陷阱:我用 torch 2.14.1+cu130 对系统 CUDA 13.1,同源。minor 版本错配同样会让内核失效且不报错。

                  ③ --disable-pinned-memory 是我这边的必要设置:两个实例各驻留 23 GB 模型,60 GB RAM 放不下锁页缓冲区。代价是模型加载慢 1.5-3 倍,但只在加载阶段,采样不受影响。

                  ④ 我现在是"双实例并行"而不是 TP2:两条片同时出,各自占一张卡。NVLink 插着但单实例 ComfyUI 用不到 —— 我试过 Comfy-H3-MultiStream(装得上、零依赖、六个节点正常),它的价值在"能原生跑 720×1280 而不是生成后放大",不在"更快",所以我暂时撤了。

                  ⑤ 感谢那 12 条失败档案 —— F8(同 seed 命中节点缓存造出假的 7.1 s)和 F2 直接帮我省了时间。

                  xiongjie gaoX 1 条回复 最后回复
                  1
                  • williamlouisW williamlouis

                    AMD涨价的重要贡献者。千万不要放社区共享。给入手7900XTX的兄弟留点时间。

                    xiongjie gaoX
                    xiongjie gaoX
                    xiongjie gao
                    王侯将相
                    编写于 最后由 编辑
                    #27

                    @williamlouis 等大船货到了我就上车H100了。🤠

                    https://github.com/shawn86574-prog/x99-7900xtx-p2p
                    https://github.com/shawn86574-prog/kuzuryusen

                    1 条回复 最后回复
                    0
                    • 6 6cccccc

                      抄了一下作业,让deepseek测的的结果
                      实测结果
                      统一条件:minimax_h3_fl2va_pruned_int8_convrot(20 G)+ qwen3vl_32b_int4(14 G)+ lightx2v turbo v4 LoRA 0.75、362 帧(15 s @24fps)、4 步、res_multistep、DV + int8 注意力全开。

                      分辨率 s/it 采样 端到端(含冷启动)
                      832×480 50.58 3:22 4 分 40 秒(280.2 s)
                      1344×768 245.67 16:23 18 分 36 秒(1115.7 s)
                      两条产物都是 362 帧、15.08 秒、带 AAC 音轨,解码保存都正常

                      xiongjie gaoX
                      xiongjie gaoX
                      xiongjie gao
                      王侯将相
                      编写于 最后由 编辑
                      #28

                      @6cccccc 速度上差不多,已经调教到能用的阶段了。

                      https://github.com/shawn86574-prog/x99-7900xtx-p2p
                      https://github.com/shawn86574-prog/kuzuryusen

                      1 条回复 最后回复
                      0
                      • 懒人烘培懒 懒人烘培

                        @terry

                        交作业|单张 7900 XTX 跑 MiniMax-H3,1536×864、15 秒、4 步有声出片

                        本机用一张 RX 7900 XTX 24 GB 跑 MiniMax-H3,1536×864、362 帧(15.08 秒)、4 步已完整有声出片。提交到出片用时 28 分 01 秒,峰值显存 23.82 GiB,四步采样和 VAE 解码均通过。

                        864p-4step.jpg

                        配置

                        • 主模型:minimax_h3_fl2va_pruned-w4a8_convrot_pruned
                        • LoRA:minimax_h3_turbo_v4_step600_ema_pruned_comfyui,强度 1.0
                        • 采样器:res_multistep,调度器:simple,24 fps
                        • 环境:ComfyUI 0.40.0、PyTorch 2.11.0+rocm7.2、Comfy Kitchen 0.2.37
                        • 启动参数:--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory
                        • 导出:视频与音频分开导出,再合成 H.264 + AAC MP4

                        配置参考@xiongjie-gao 贴文。

                        4 步有声出片对比

                        分辨率 帧数 / 时长 采样用时 端到端用时 峰值显存
                        1280×736 362 / 15.08 秒 13 分 52 秒 15 分 54 秒 23.86 GiB
                        1536×864 362 / 15.08 秒 25 分 14 秒 28 分 01 秒 23.82 GiB

                        兼顾分辨率和耗时,推荐 1280×736、约 15 秒、4 步。 需要更高分辨率时,1536×864 同规格已经跑通,像素数多约 41%,本轮出片多等 12 分 07 秒。两档各有一次成功实测,连续多轮的稳定性还有待验证。

                        720p-4step.jpg

                        单卡显存边界

                        本机可用显存 23.98 GiB。成功档最高测到 23.86 GiB,余量约 120 MiB。下表的 1 步用于测试采样、解码和导出能否通过。OOM 档的显存峰值只包含已成功分配的显存。

                        测试方向 成功档 首步 OOM 档
                        固定 362 帧 / 15.08 秒,提高分辨率 1536×864,4 步,峰值 23.82 GiB 1728×960,1 步,申请 2.33 GiB 时剩 2.21 GiB;1920×1088 也触发 OOM
                        固定 1280×736,增加时长 549 帧 / 22.88 秒,1 步,10 分 12 秒有声出片,峰值 23.55 GiB 617 帧 / 25.71 秒,1 步,申请 1.70 GiB 时剩 576 MiB

                        下图取自 22.88 秒压力测试的第 18 秒。这个时长已验证 1 步有声出片,4 步仍待实测。

                        23s-limit.jpg

                        结论

                        单张 RX 7900 XTX 24 GB 已实测跑通 1536×864、362 帧(15.08 秒)、4 步的 MiniMax-H3 有声视频。整条用时 28 分 01 秒,峰值显存 23.82 GiB。同样是 15 秒,升到 1728×960 就在首步遇到显存不足。

                        日常兼顾分辨率和耗时,我推荐 1280×736、15 秒、4 步,本机实测 15 分 54 秒。有更高分辨率需求时,可以用已经跑通的 1536×864,同样 4 步多等约 12 分钟。这两个档位各完成了一次有声出片,连续跑多条的稳定性还待验证。

                        xiongjie gaoX
                        xiongjie gaoX
                        xiongjie gao
                        王侯将相
                        编写于 最后由 编辑
                        #29

                        @懒人烘培 真不错,我单 卡跑的也是差不多成绩。结论就是7900XTX可能还谈不上是我们社团的双花红棍,但肯定是最能打的头马之一。

                        https://github.com/shawn86574-prog/x99-7900xtx-p2p
                        https://github.com/shawn86574-prog/kuzuryusen

                        1 条回复 最后回复
                        0
                        • Ang LeeA Ang Lee

                          你的和我之前测的感觉速度差不多一样吧?有不对可以更正我。
                          https://lcz.me/topic/1168

                          xiongjie gaoX
                          xiongjie gaoX
                          xiongjie gao
                          王侯将相
                          编写于 最后由 编辑
                          #30

                          @Ang-Lee 仔细看了,这个单卡跑H3数据 跟我这边可以相互印证。

                          https://github.com/shawn86574-prog/x99-7900xtx-p2p
                          https://github.com/shawn86574-prog/kuzuryusen

                          1 条回复 最后回复
                          0
                          • 天知道天 天知道

                            补一个涡轮卡测试:

                            我是蓝宝石的涡轮卡(不是常见的零售三风扇版)。照着自己的机器做了三组对照,把能抄的和抄不了的都写一下。

                            一、先说我这张卡:蓝宝石涡轮版

                            • 品牌型号:蓝宝石 7900 XTX 涡轮版
                            • 功耗上限默认 257 W(可调范围 231~350 W)
                            • 一般零售 7900 XTX 是 339~355 W、boost 约 2500 MHz(说明一下:楼主和下面复测的朋友用的具体型号帖子里没写,这里只是按零售版推测,没有核实)
                            • 实测:257 W 时约 2200 MHz;提到 350 W 后在 2200~2480 MHz 之间来回跳

                            所以楼主的 TP2 那部分(1 MP 时 2.30×)单卡抄不了;能抄的是环境自查和注意力那一段。

                            二、DynamicVRAM 在我这儿开不了

                            按帖子参数试的:--enable-dynamic-vram --use-ck-attention --mmap-torch-files。

                            aimdo 本身能起来(comfy-aimdo 0.6.0,识别到 24560 MB),但第一个 VAE 编码触发的部分卸载就崩:

                            aimdo: model-vbar.c:269 ERROR: Could not reserve Virtual Address space for VBAR
                            MemoryError: VBAR allocation failed
                            

                            10 秒结束,一步都没跑。系统限制我都排除了:vm.overcommit_memory=0、vm.max_map_count=1048576、服务 LimitAS/DATA=infinity,都正常。差别在版本:我用的是 ROCm 7.2.0(发行版包),楼主环境是 7.2.26015(更新的构建)。结论就是 VBAR 这套虚拟地址预留机制在我这个构建上用不了,要开 DV 得升级 ROCm 且 torch 同源,风险太大,暂时不开。

                            三、试着提功耗:只有 6%,撞的是温度墙

                            同一配置:832×480 / 362 帧 / 4 步 / res_multistep,int8 20.9 GB + nvfp4 编码器 + kitchen attention,无分块。

                            功耗上限 s/it 采样 端到端 峰值显存
                            257 W(默认) 65.14 4:20 390.4 s 23.96 GiB
                            350 W 61.06 4:04 380.5 s 23.93 GiB

                            只快了 6.3%。350 W 那轮的温度:edge 79 °C、junction(热点)104 °C、显存 84 °C,而 junction 限值是 110 °C。

                            关键在功耗数字:平均只有 243 W,离 350 W 上限还差 30%。所以不是撞功耗墙,是撞温度墙——热点到 104 °C 后 SMU 自己压频,功耗自然上不去。结论:不固化 350 W,已还原 257 W。为 6% 常年 95~104 °C 不值得。

                            四、单卡校准:确实慢,但不是降级路径

                            和帖子里 @6cccccc 的单卡复测对照:

                            • 832×480 / 362 帧 / 4 步:我 65.14 s/it,他 50.58,慢 29%
                            • 1 MP / 362 帧 / 4 步:我 310 s/步,他 245.67,慢 26%

                            两档差距一致,说明我不是踩到了降级路径(真降级是 259 s/it 那种量级),而是硬件/配置整体差一截;顺带也验证了 kitchen attention 在我这儿是通的。差距里有一部分大概率的来源是卡:涡轮版的功耗和频率上限都比零售版低,但对方到底是哪张卡我并不确定,只能说是推测。

                            当前极限:0.4 MP / 362 帧 = 65 s/it;1 MP / 362 帧 = 310 s/步。

                            后面还没试的方向:undervolt(同频降温,也许能让 350 W 站得住)、ROCm 升级后开 DV、以及算法层的 3 步 LoRA / 时间维切段 / 降分辨率。暂时到这儿,有新招再来更新。

                            xiongjie gaoX
                            xiongjie gaoX
                            xiongjie gao
                            王侯将相
                            编写于 最后由 编辑
                            #31

                            @天知道 说:

                            10 秒结束,一步都没跑。系统限制我都排除了:vm.overcommit_memory=0、vm.max_map_count=1048576、服务 LimitAS/DATA=infinity,都正常。差别在版本:我用的是 ROCm 7.2.0(发行版包),楼主环境是 7.2.26015(更新的构建)。结论就是 VBAR 这套虚拟地址预留机制在我这个构建上用不了,要开 DV 得升级 ROCm 且 torch 同源,风险太大,暂时不开。

                            这套底层栈我在布置中花了不少时间,感觉挺值的。
                            但兄弟你这优先要解决的还是你的结温过高的问题😂 问问坛子里兄弟们有没有你一样的问题吧。如果涡轮卡都这个体质就只能认命。如果只是你,就走个人送保吧

                            https://github.com/shawn86574-prog/x99-7900xtx-p2p
                            https://github.com/shawn86574-prog/kuzuryusen

                            1 条回复 最后回复
                            0
                            • K koala

                              测试过程相当详细,如果楼主方便的时候把生成出来的视频也粘贴一下,看看实际效果。
                              怎么说呢,数值是有绝对提升的,但是视频这个东西,最后是要看动画效果的,能动的不一定能用。
                              比如一条龙环绕人体,或者空中高速移动的时候,加速到这种程度还能正常观赏,那就是比较实用的。

                              xiongjie gaoX
                              xiongjie gaoX
                              xiongjie gao
                              王侯将相
                              编写于 最后由 编辑
                              #32

                              @koala 好,以前测试如果有必须的配上。
                              很多时候是为了测试,没有具体指定生成内容。我也看过测试后交付的产物,感觉没啥必须PO出来😁

                              https://github.com/shawn86574-prog/x99-7900xtx-p2p
                              https://github.com/shawn86574-prog/kuzuryusen

                              1 条回复 最后回复
                              0
                              • J IJ J I

                                @terry 画质我对比过,同样模型和设置下,A 卡和 N 卡出片效果看起来一样。

                                我之前测的是自己短片里的几个片段。双 7900 XTX TP2 测了 768p 8 秒,没测 768p 15 秒;不过也测了 1080p 8 秒。1080p 分辨率更高,8 秒的计算和显存压力跟 768p 15 秒已经比较接近,甚至可能更大。

                                在我自己的工作流和 Vast.ai 租卡测试里,N 卡跟双 7900 TP2 的实际差距没有 2867 帖子里 5080 看起来那么大,大约最多两倍不到(而且我的双卡7900xtx限制了频率在2300,功耗最多也就跑220w)。我猜可能跟我的流程一直用了 Sol-Attn 稀疏注意力有关

                                所以纯做 H3 视频,我目前更倾向 N 卡,比较省心。差距可能跟算子、驱动和 ComfyUI 生态都有关系,希望后面有社区大佬用ai帮忙优化一下 AMD 😄

                                不过双 7900 也有自己的玩法:一张跑 Strata,另一张可以打游戏(这卡单卡游戏光栅性跟5080一样,价格只有一半?)、出图或者低分辨率跑 H3。我最后买了张 5070 Ti 专门跑 H3,双 7900 留给 Strata rdna3 tp。

                                相关参赛贴: https://lcz.me/topic/3047

                                xiongjie gaoX
                                xiongjie gaoX
                                xiongjie gao
                                王侯将相
                                编写于 最后由 编辑
                                #33

                                @J-I 这个是极好的解法。我尝试了很多方案,最终也是奔着这个方向去的

                                https://github.com/shawn86574-prog/x99-7900xtx-p2p
                                https://github.com/shawn86574-prog/kuzuryusen

                                1 条回复 最后回复
                                0
                                • Leon YL Leon Y

                                  双 3090 + --use-ck-attention:单变量 A/B,端到端 1.95×

                                  平台:2× RTX 3090 24 GB(Ampere sm_86),NVLink 4(实测 P2P 49 GB/s),Ryzen 9 5950X,60 GB DDR4,Ubuntu 26.04 / CUDA 13.1 / torch 2.14.1+cu130

                                  工作流:MiniMax-H3 int8,576×1024,362 帧(15 s @ 24fps),8 步 + 8 步 turbo LoRA,res_multistep / simple,BasicGuider(无 CFG)

                                  A/B(同机同工作流,唯一变量是这个 flag):

                                  启动参数 日志里的后端 端到端
                                  main.py --port 8189 --listen 0.0.0.0 Using pytorch attention 891 s
                                  ... --use-ck-attention Using Comfy Kitchen attention 457 s
                                  1.95×
                                  补充观察:

                                  ① 先做注意力微基准,比"能不能出片"可靠

                                  python

                                  4096 token,SDPA×20 取均值

                                  正常: 2.7 ms/次 ← 健康
                                  异常: 数百 ms ← 静默降级
                                  这条来自你 F2 的思路,我照做了,确认没走兜底路径之后才去测端到端。

                                  ② 你的 F1 在 CUDA 上有等价陷阱:我用 torch 2.14.1+cu130 对系统 CUDA 13.1,同源。minor 版本错配同样会让内核失效且不报错。

                                  ③ --disable-pinned-memory 是我这边的必要设置:两个实例各驻留 23 GB 模型,60 GB RAM 放不下锁页缓冲区。代价是模型加载慢 1.5-3 倍,但只在加载阶段,采样不受影响。

                                  ④ 我现在是"双实例并行"而不是 TP2:两条片同时出,各自占一张卡。NVLink 插着但单实例 ComfyUI 用不到 —— 我试过 Comfy-H3-MultiStream(装得上、零依赖、六个节点正常),它的价值在"能原生跑 720×1280 而不是生成后放大",不在"更快",所以我暂时撤了。

                                  ⑤ 感谢那 12 条失败档案 —— F8(同 seed 命中节点缓存造出假的 7.1 s)和 F2 直接帮我省了时间。

                                  xiongjie gaoX
                                  xiongjie gaoX
                                  xiongjie gao
                                  王侯将相
                                  编写于 最后由 编辑
                                  #34

                                  @Leon-Y N卡应该有更好的解法。比如原生的aimdo

                                  https://github.com/shawn86574-prog/x99-7900xtx-p2p
                                  https://github.com/shawn86574-prog/kuzuryusen

                                  Leon YL 1 条回复 最后回复
                                  0
                                  • xiongjie gaoX xiongjie gao

                                    @Leon-Y N卡应该有更好的解法。比如原生的aimdo

                                    Leon YL
                                    Leon YL
                                    Leon Y
                                    体面乡绅 硕果累累
                                    编写于 最后由 编辑
                                    #35

                                    @xiongjie-gao 说:

                                    aimdo

                                    aimdo帮不了提速,只能跑大一点的模型

                                    xiongjie gaoX 1 条回复 最后回复
                                    0
                                    • Leon YL Leon Y

                                      @xiongjie-gao 说:

                                      aimdo

                                      aimdo帮不了提速,只能跑大一点的模型

                                      xiongjie gaoX
                                      xiongjie gaoX
                                      xiongjie gao
                                      王侯将相
                                      编写于 最后由 xiongjie gao 编辑
                                      #36

                                      @Leon-Y Aimdo是保证高显存占用下不OOM的策略😊
                                      N卡用户天然就有的用,A卡用户得手搓代码绕着走

                                      https://github.com/shawn86574-prog/x99-7900xtx-p2p
                                      https://github.com/shawn86574-prog/kuzuryusen

                                      1 条回复 最后回复
                                      0
                                      • terryT terry

                                        高雄杰和库克给粉丝发N卡.jpeg
                                        高雄杰和苏姿丰给粉丝发A卡.jpeg

                                        杰杰拿下库克和Lisa-Su

                                        我对世界充满了轻蔑,我懂显卡,我也懂那些创造显卡的人.......
                                        这些人支配了AI,但我支配了他们!
                                        收下这些显卡,因为在我心中,它们一文不值!
                                        --雄杰-高

                                        kos orK
                                        kos orK
                                        kos or
                                        至尊皇帝
                                        编写于 最后由 编辑
                                        #37

                                        @terry said:

                                        杰杰拿下库克和Lisa-Su

                                        照片一放大 帥氣許多 😁

                                        terryT 1 条回复 最后回复
                                        0
                                        • kos orK kos or

                                          @terry said:

                                          杰杰拿下库克和Lisa-Su

                                          照片一放大 帥氣許多 😁

                                          terryT
                                          terryT
                                          terry
                                          易有太极
                                          编写于 最后由 编辑
                                          #38

                                          @kos-or 其实有些失真,我弟帅的是阳刚之气。对世俗的不屑一顾。

                                          油管:https://www.youtube.com/@抡锤者

                                          kos orK 1 条回复 最后回复
                                          1

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组