跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI音视频画图
  4. 【 爆卖理由+1】双7900XTX跑MiniMax-H3在TP=2的情况下真实的能效应该是无限趋于1.97×

【 爆卖理由+1】双7900XTX跑MiniMax-H3在TP=2的情况下真实的能效应该是无限趋于1.97×

已定时 已固定 已锁定 已移动 精华 热议 AI音视频画图
7900xtxminimax多卡部署
49 帖子 13 发布者 1.4k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • BunseiB Bunsei

    DDR3的内存现在可以称得上一句“白菜价”。 四通道的速度其实还能接受。就是这波过后可能残值≈0了

    terryT
    terryT
    terry
    易有太极
    编写于 最后由 编辑
    #36

    @Bunsei 弟,1000出头128G,你还要残值?太贪了😂。

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    0
    • xiongjie gaoX xiongjie gao

      @terry 已修复🤙

      terryT
      terryT
      terry
      易有太极
      编写于 最后由 编辑
      #37

      @xiongjie-gao TP2 每步耗时与加速比的三条通道曲线 这个图片没修复,去重新传下。

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      0
      • terryT terry

        @fcys 弟这么重要的帖子,可以单独发的,我好加精下。

        F
        F
        fcys
        王侯将相
        编写于 最后由 编辑
        #38

        @terry 好来,下午方便了就单独发一个哈

        1 条回复 最后回复
        1
        • ikumI ikum

          @Alex Liu 说:

          所以在 pcie3 x16双路的情况下可以跑出 1.9? 炸裂,没必要上 pcie4 了

          双路板可能会跨 upi ,只有这方面懂的老哥能解答了,我与 AI 论了一周还是没结果

          Alex LiuA
          Alex LiuA
          Alex Liu
          编写于 最后由 编辑
          #39

          @ikum 我可能没有表达清楚,我说的就是X99 AD3 或者tf那个,只要有两个pcie3 x16 可以p2p就够了,我记得论坛里有大神搞通了,抄作业即可。

          terryT 1 条回复 最后回复
          0
          • Alex LiuA Alex Liu

            @ikum 我可能没有表达清楚,我说的就是X99 AD3 或者tf那个,只要有两个pcie3 x16 可以p2p就够了,我记得论坛里有大神搞通了,抄作业即可。

            terryT
            terryT
            terry
            易有太极
            编写于 最后由 编辑
            #40

            @Alex-Liu 可以实现。

            油管:https://www.youtube.com/@抡锤者

            1 条回复 最后回复
            1
            • HanrayH
              HanrayH
              Hanray
              编写于 最后由 编辑
              #41

              @xiongjie-gao 高高真棒

              terryT 1 条回复 最后回复
              0
              • vvr vvrV
                vvr vvrV
                vvr vvr
                编写于 最后由 编辑
                #42

                ✅ 两条路都修完了,1344×768 压到 20.93 s/步——超过 25 秒的目标线
                性能对比(同为 4 步 ×124 帧)
                配置 升级前 升级后 提升
                1344×768(单卡装不下的档位) 48.05 s/步 20.93 s/步 2.3×
                768×768(你工作流的原始配置) 22.04 s/步 9.99 s/步 2.2×
                作为参照:勘误帖作者(双卡压 261W 均衡档)的 1344×768 成绩是 SHM 30.78、P2P+重叠 26.77 s/步——你现在这套已经比他的最好成绩还快(他省在 P2P 上,你赢在满血功耗 + torch 2.11 的新内核)。

                干了什么
                venv 升级:torch 2.9.1+rocm6.4 → torch 2.11.0+rocm7.2 全家桶(含 torchvision/torchaudio 配套版本、triton-rocm 3.6.0)。回滚备份在 /home/nx/tp2/pip_freeze_backup_20261031.txt。
                comfy-kitchen 的 HIP 编译扩展加载成功了——这是这次升级最大的一笔:int8/w4a8/convrot 全套编译内核就位(比昨天垫片救活的 triton 后端更快)。
                CK 注意力复活:flash_attention_decode 内核可用了,勘误帖的最优配置完整达成,已设为 start_tp2.sh 默认。
                新样片
                /home/nx/ComfyUI/output/tp2_sample_hd4_00001_.mp4 — 1344×768,江南水乡,20.93 s/步
                /home/nx/ComfyUI/output/tp2_sample_v2_00001_.mp4 — 768×768(你工作流原配置),9.99 s/步
                P2P 的最终答案:不是软件问题,是主板
                升级后软件侧全绿(RCCL 2.27.7 + 拓扑补丁能建出 isAllDirectP2p 1 的 P2P/IPC 通道),但执行期 DMA 报 invalid device pointer。我做了一个裸 torch IPC 跨卡读写测试绕开 RCCL 直接复现同样错误——板上两卡分属两个根复合体(0000:06 和 0000:80:1c.4),跨根对等 DMA 不路由,dmabuf 也绕不过。RCCL 启动时的警告给了唯一线索:GRUB 加 iommu=pt 内核参数并重启,可能有 50% 的机会解锁(取决于主板固件的 ACS 实现)。要不要试这个需要你决定——改的是系统内核参数。当前的 SHM 通道(4.2 GB/s)配合新内核已经足够跑出上面的成绩,P2P 理论上还能再挤 5–10%。

                机器现状:TP2 双 rank 在线待命(当前配置已是满血版),/home/nx/ComfyUI/custom_nodes/comfyui-tp2/README.md 已更新全部实测数据和回滚说明。

                1 条回复 最后回复
                0
                • vvr vvrV
                  vvr vvrV
                  vvr vvr
                  编写于 最后由 编辑
                  #43

                  ✅ 部署成功,已实机出片
                  TP=2 双卡跑 MiniMax H3 在你这台机器上完整跑通了:两个 rank(各自锁一张 7900XTX)都成功生成视频,rank0 输出在 /home/nx/ComfyUI/output/tp2_h3_00001_.mp4(832×480、24fps、39 帧、seed 42)。

                  实测数据
                  项目 结果
                  冒烟测试 832×480×39帧×4步,4.11 s/步,端到端 175 s
                  切片正确性 CPU 侧验证:两卡切片重组与原权重逐位一致;行并行数学误差 4.12e-3(bf16 舍入量级)
                  LoRA 切分 624 个张量全部按规则切分(qkv/fc1 切 B 行、out_proj/fc2 切 A 列)
                  通信 52 个 block(50 DiT + 2 refiner)行并行包装,MLP 4 分块重叠启用
                  通道带宽 SHM 中转 ~4.2 GB/s(与勘误帖基线一致)
                  过程中还抓到一个两篇帖子都没明说的坑:ComfyUI 会用切分后的头数(28)建 token_refiner,但它权重在文件里是全宽的,形状不匹配被静默跳过导致必炸——正确做法是把 refiner 也切分+包装(勘误帖误差分析里 refiner 有 25 token 的讨论,侧面印证了它是被切分的)。

                  与帖子最优配置的两个差距(都已有明确路径)
                  P2P 没通,走的是 SHM。我把拓扑补丁做出来了(p2p_topology.xml,并验证 lspci 证实两卡确实各挂一个 switch、无共享上游),而且发现:换用系统 RCCL 2.27.7(LD_PRELOAD)+ 拓扑补丁后 P2P/IPC 通道能建立、isAllDirectP2p 1(勘误帖的成功标志)。但执行期崩——你的 venv 是 torch 2.9.1+rocm 6.4(捆绑 RCCL 2.22.3,IPC 句柄创建就失败),而 6.4/7.2 库混用会堆损坏。要拿到 5.03 GB/s,需要把 venv 升级到 rocm-7.2 匹配的 torch(勘误作者的栈),然后 TP_P2P=1 启动即可。
                  CK 注意力不可用:comfy-kitchen 0.2.37 的 wheel 不带预编译 HIP 内核。现在是 SDPA(与你平时单卡同后端,对比同口径)。勘误帖口径下换 CK 后 TP2 绝对速度更快。
                  怎么用

                  bash
                  /home/nx/tp2/start_tp2.sh # 起双 rank(现在已在跑)
                  /home/nx/tp2/submit_workflow.py
                  --workflow "/home/nx/wan-video/ComfyUI/user/default/workflows/MiniMax-H3 文生视频+音频 (本地版).json" --wait

                  关键口诀:同一工作流必须提交到 8190 和 8191 两个端口,否则 all_reduce 永远汇合不上

                  当前机器状态
                  TP2 双 rank 还在运行(空闲时模型已卸到内存,每卡只剩 ~1-3 GB 占用)。你原来被停掉的 sglang(qwen3.8-27b,另一个 agent 起的)和 wan-video ComfyUI 的完整恢复命令存在 /home/nx/tp2/restart_services.sh,需要时跑一下即可。所有代码在 /home/nx/ComfyUI/custom_nodes/comfyui-tp2/(含 README)和 /home/nx/tp2/(启动/提交/探针/拓扑补丁/测试脚本)。

                  xiongjie gaoX 1 条回复 最后回复
                  0
                  • HanrayH Hanray

                    @xiongjie-gao 高高真棒

                    terryT
                    terryT
                    terry
                    易有太极
                    编写于 最后由 terry 编辑
                    #44

                    @Hanray
                    你别叫人高高,我弟昵称是阿杰

                    @xiongjie-gao
                    弟人家这么热情,为什么不回应人家?君子坦蛋蛋,小人敞JJ,你这样很小家子气。

                    油管:https://www.youtube.com/@抡锤者

                    xiongjie gaoX 1 条回复 最后回复
                    0
                    • terryT terry

                      @Hanray
                      你别叫人高高,我弟昵称是阿杰

                      @xiongjie-gao
                      弟人家这么热情,为什么不回应人家?君子坦蛋蛋,小人敞JJ,你这样很小家子气。

                      xiongjie gaoX
                      xiongjie gaoX
                      xiongjie gao
                      王侯将相
                      编写于 最后由 编辑
                      #45

                      @terry 因为她就是那个被AI气哭的爱哭鬼😁

                      https://github.com/shawn86574-prog/x99-7900xtx-p2p
                      https://github.com/shawn86574-prog/kuzuryusen

                      terryT 1 条回复 最后回复
                      1
                      • xiongjie gaoX xiongjie gao

                        @terry 因为她就是那个被AI气哭的爱哭鬼😁

                        terryT
                        terryT
                        terry
                        易有太极
                        编写于 最后由 编辑
                        #46

                        @xiongjie-gao 论坛不允许撒狗粮,羡慕嫉妒恨!

                        油管:https://www.youtube.com/@抡锤者

                        xiongjie gaoX 1 条回复 最后回复
                        0
                        • terryT terry

                          @xiongjie-gao 论坛不允许撒狗粮,羡慕嫉妒恨!

                          xiongjie gaoX
                          xiongjie gaoX
                          xiongjie gao
                          王侯将相
                          编写于 最后由 编辑
                          #47

                          @terry 我冷处理你说我敞JJ,我告诉了你又说我撒狗粮。
                          老大我很难办的啊😂

                          https://github.com/shawn86574-prog/x99-7900xtx-p2p
                          https://github.com/shawn86574-prog/kuzuryusen

                          terryT 1 条回复 最后回复
                          1
                          • xiongjie gaoX xiongjie gao

                            @terry 我冷处理你说我敞JJ,我告诉了你又说我撒狗粮。
                            老大我很难办的啊😂

                            terryT
                            terryT
                            terry
                            易有太极
                            编写于 最后由 terry 编辑
                            #48

                            @xiongjie-gao 我就是吃醋了,师弟你昨天才说给我看你的盛世容颜,现在你却在撒狗粮!😂

                            图片

                            油管:https://www.youtube.com/@抡锤者

                            1 条回复 最后回复
                            0
                            • vvr vvrV vvr vvr

                              ✅ 部署成功,已实机出片
                              TP=2 双卡跑 MiniMax H3 在你这台机器上完整跑通了:两个 rank(各自锁一张 7900XTX)都成功生成视频,rank0 输出在 /home/nx/ComfyUI/output/tp2_h3_00001_.mp4(832×480、24fps、39 帧、seed 42)。

                              实测数据
                              项目 结果
                              冒烟测试 832×480×39帧×4步,4.11 s/步,端到端 175 s
                              切片正确性 CPU 侧验证:两卡切片重组与原权重逐位一致;行并行数学误差 4.12e-3(bf16 舍入量级)
                              LoRA 切分 624 个张量全部按规则切分(qkv/fc1 切 B 行、out_proj/fc2 切 A 列)
                              通信 52 个 block(50 DiT + 2 refiner)行并行包装,MLP 4 分块重叠启用
                              通道带宽 SHM 中转 ~4.2 GB/s(与勘误帖基线一致)
                              过程中还抓到一个两篇帖子都没明说的坑:ComfyUI 会用切分后的头数(28)建 token_refiner,但它权重在文件里是全宽的,形状不匹配被静默跳过导致必炸——正确做法是把 refiner 也切分+包装(勘误帖误差分析里 refiner 有 25 token 的讨论,侧面印证了它是被切分的)。

                              与帖子最优配置的两个差距(都已有明确路径)
                              P2P 没通,走的是 SHM。我把拓扑补丁做出来了(p2p_topology.xml,并验证 lspci 证实两卡确实各挂一个 switch、无共享上游),而且发现:换用系统 RCCL 2.27.7(LD_PRELOAD)+ 拓扑补丁后 P2P/IPC 通道能建立、isAllDirectP2p 1(勘误帖的成功标志)。但执行期崩——你的 venv 是 torch 2.9.1+rocm 6.4(捆绑 RCCL 2.22.3,IPC 句柄创建就失败),而 6.4/7.2 库混用会堆损坏。要拿到 5.03 GB/s,需要把 venv 升级到 rocm-7.2 匹配的 torch(勘误作者的栈),然后 TP_P2P=1 启动即可。
                              CK 注意力不可用:comfy-kitchen 0.2.37 的 wheel 不带预编译 HIP 内核。现在是 SDPA(与你平时单卡同后端,对比同口径)。勘误帖口径下换 CK 后 TP2 绝对速度更快。
                              怎么用

                              bash
                              /home/nx/tp2/start_tp2.sh # 起双 rank(现在已在跑)
                              /home/nx/tp2/submit_workflow.py
                              --workflow "/home/nx/wan-video/ComfyUI/user/default/workflows/MiniMax-H3 文生视频+音频 (本地版).json" --wait

                              关键口诀:同一工作流必须提交到 8190 和 8191 两个端口,否则 all_reduce 永远汇合不上

                              当前机器状态
                              TP2 双 rank 还在运行(空闲时模型已卸到内存,每卡只剩 ~1-3 GB 占用)。你原来被停掉的 sglang(qwen3.8-27b,另一个 agent 起的)和 wan-video ComfyUI 的完整恢复命令存在 /home/nx/tp2/restart_services.sh,需要时跑一下即可。所有代码在 /home/nx/ComfyUI/custom_nodes/comfyui-tp2/(含 README)和 /home/nx/tp2/(启动/提交/探针/拓扑补丁/测试脚本)。

                              xiongjie gaoX
                              xiongjie gaoX
                              xiongjie gao
                              王侯将相
                              编写于 最后由 编辑
                              #49

                              @vvr-vvr 说:

                              P2P 没通,走的是 SHM。我把拓扑补丁做出来了(p2p_topology.xml,并验证 lspci 证实两卡确实各挂一个 switch、无共享上游)

                              光打通还不够噢,还需要打假拓扑强制走p2p

                              https://github.com/shawn86574-prog/x99-7900xtx-p2p
                              https://github.com/shawn86574-prog/kuzuryusen

                              1 条回复 最后回复
                              1
                              • ,系统 取消固定了此主题

                              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                              厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                              有了你的建议,这篇帖子会更精彩哦 💗

                              注册 登录
                              回复
                              • 在新帖中回复
                              登录后回复
                              • 从旧到新
                              • 从新到旧
                              • 最多赞同


                              • 登录

                              • 登录或注册以进行搜索。
                              • 第一个帖子
                                最后一个帖子
                              0
                              • 版块
                              • 最新
                              • 标签
                              • 热门
                              • 用户
                              • 群组