跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P:从内核、RCCL 到 SGLang Qwen3.8 实战

X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P:从内核、RCCL 到 SGLang Qwen3.8 实战

已定时 已固定 已锁定 已移动 精华 热议 AI硬件
r9700x99多卡部署
64 帖子 14 发布者 2.3k 浏览 7 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • PhoenixRise2026P PhoenixRise2026

    @fcme 说:

    @PhoenixRise2026
    又看了一遍这个帖子,老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了,就像版主说的,由于SGlang优秀的缓存机制,其实pp这一块重要性没有那么高,那你可以考虑把dflash2给加进去吗?这样的话,这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
    你要是把这个也搞定的话,那你基本上功德无量了😃😂

    这两天懈怠了,十一前把dflash2测了

    terryT
    terryT
    terry
    超级版主
    编写于 最后由 编辑
    #47

    @PhoenixRise2026 很好,就等你出手了。

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    0
    • terryT terry

      @PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。

      PhoenixRise2026P
      PhoenixRise2026P
      PhoenixRise2026
      德高望重
      编写于 最后由 编辑
      #48

      @terry 说:

      @PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。

      谢谢老特提醒,创建了个项目,需要的兄弟们可以参考,也是第一次为社区做点贡献。
      https://github.com/PhoenixRise2026/x99-amd-gpu-p2p

      🔧 X99 × Dual R9700 P2P Lab
      https://lcz.me/projects/local/x99-amd-gpu-p2p

      terryT DESHENG LVD 2 条回复 最后回复
      0
      • PhoenixRise2026P PhoenixRise2026

        @terry 说:

        @PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。

        谢谢老特提醒,创建了个项目,需要的兄弟们可以参考,也是第一次为社区做点贡献。
        https://github.com/PhoenixRise2026/x99-amd-gpu-p2p

        terryT
        terryT
        terry
        超级版主
        编写于 最后由 terry 编辑
        #49

        @PhoenixRise2026
        https://lcz.me/projects/local/x99-amd-gpu-p2p
        可以挂到你的签名栏。

        油管:https://www.youtube.com/@抡锤者

        PhoenixRise2026P 1 条回复 最后回复
        0
        • PhoenixRise2026P PhoenixRise2026

          @terry 说:

          @PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。

          谢谢老特提醒,创建了个项目,需要的兄弟们可以参考,也是第一次为社区做点贡献。
          https://github.com/PhoenixRise2026/x99-amd-gpu-p2p

          DESHENG LVD
          DESHENG LVD
          DESHENG LV
          编写于 最后由 编辑
          #50

          @PhoenixRise2026

          @PhoenixRise2026 显卡还在路上 已经 star 了,沙发

          1 条回复 最后回复
          1
          • terryT terry

            @PhoenixRise2026
            https://lcz.me/projects/local/x99-amd-gpu-p2p
            可以挂到你的签名栏。

            PhoenixRise2026P
            PhoenixRise2026P
            PhoenixRise2026
            德高望重
            编写于 最后由 编辑
            #51

            @Terry 已加到签名栏。

            正在测试dflash2,目前看比mtp的decode要更快,还在调试参数

            🔧 X99 × Dual R9700 P2P Lab
            https://lcz.me/projects/local/x99-amd-gpu-p2p

            terryT 1 条回复 最后回复
            1
            • ,系统 取消固定了此主题
            • XiaoteX
              XiaoteX
              Xiaote
              编写于 最后由 编辑
              #52

              🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!

              奖励凭证:热议 +3 分 · 编号 h1925-166-1(系统自动发放,显示稍有延迟)

              老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

              1 条回复 最后回复
              0
              • PhoenixRise2026P PhoenixRise2026

                @Terry 已加到签名栏。

                正在测试dflash2,目前看比mtp的decode要更快,还在调试参数

                terryT
                terryT
                terry
                超级版主
                编写于 最后由 编辑
                #53

                @PhoenixRise2026 看看这玩意能不能和strata蹭上,搞不好也很有意义😂

                油管:https://www.youtube.com/@抡锤者

                PhoenixRise2026P 1 条回复 最后回复
                1
                • ,PhoenixRise2026P PhoenixRise2026 引用了 此主题
                • Kins HoK
                  Kins HoK
                  Kins Ho
                  编写于 最后由 编辑
                  #54

                  尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
                  也可以建置嗎?

                  處理器 雙路 Intel Xeon E5-2696 v4
                  主機板 HUANANZHI X99 F8D
                  記憶體 海力士DDR4-2133 128GB
                  顯示卡 2080ti / 3060
                  電源 750w /850w

                  PhoenixRise2026P 1 条回复 最后回复
                  0
                  • terryT terry

                    @PhoenixRise2026 看看这玩意能不能和strata蹭上,搞不好也很有意义😂

                    PhoenixRise2026P
                    PhoenixRise2026P
                    PhoenixRise2026
                    德高望重
                    编写于 最后由 编辑
                    #55

                    @Terry 这几天在调试单卡和双卡跑strata,跑完发给帖子

                    🔧 X99 × Dual R9700 P2P Lab
                    https://lcz.me/projects/local/x99-amd-gpu-p2p

                    1 条回复 最后回复
                    0
                    • Kins HoK Kins Ho

                      尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
                      也可以建置嗎?

                      處理器 雙路 Intel Xeon E5-2696 v4
                      主機板 HUANANZHI X99 F8D
                      記憶體 海力士DDR4-2133 128GB
                      顯示卡 2080ti / 3060
                      電源 750w /850w

                      PhoenixRise2026P
                      PhoenixRise2026P
                      PhoenixRise2026
                      德高望重
                      编写于 最后由 编辑
                      #56

                      @Kins-Ho 说:

                      尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
                      也可以建置嗎?

                      處理器 雙路 Intel Xeon E5-2696 v4
                      主機板 HUANANZHI X99 F8D
                      記憶體 海力士DDR4-2133 128GB
                      顯示卡 2080ti / 3060
                      電源 750w /850w

                      双路 E5-2696 v4 + X99 F8D + 128GB 内存本身没有明显问题,不过如果想跑双卡,关键不在 CPU 和内存,而是在 主板 PCIe 拓扑。

                      不同 X99 双路板的 PCIe 插槽可能分别挂在不同 CPU / Root Port 下,所以目前还不能只看型号就确定 P2P 一定能打通。

                      你可以先在这台 F8D 上执行:

                      lspci -tv

                      让AI来评估是否可以打通P2P

                      另外,电源建议多打出一些余量,双卡至少1000w以上。我的双r9700,用振华1300w电源,几乎满功率300w运行5.5小时,非常稳定。

                      🔧 X99 × Dual R9700 P2P Lab
                      https://lcz.me/projects/local/x99-amd-gpu-p2p

                      Kins HoK 1 条回复 最后回复
                      1
                      • terryT
                        terryT
                        terry
                        超级版主
                        编写于 最后由 编辑
                        #57

                        这个帖子是近期最精华的帖子之一,可以继续完善,有其他人有类似主板的可以尝试下,交换下信息。

                        油管:https://www.youtube.com/@抡锤者

                        1 条回复 最后回复
                        0
                        • PhoenixRise2026P PhoenixRise2026

                          @Kins-Ho 说:

                          尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
                          也可以建置嗎?

                          處理器 雙路 Intel Xeon E5-2696 v4
                          主機板 HUANANZHI X99 F8D
                          記憶體 海力士DDR4-2133 128GB
                          顯示卡 2080ti / 3060
                          電源 750w /850w

                          双路 E5-2696 v4 + X99 F8D + 128GB 内存本身没有明显问题,不过如果想跑双卡,关键不在 CPU 和内存,而是在 主板 PCIe 拓扑。

                          不同 X99 双路板的 PCIe 插槽可能分别挂在不同 CPU / Root Port 下,所以目前还不能只看型号就确定 P2P 一定能打通。

                          你可以先在这台 F8D 上执行:

                          lspci -tv

                          让AI来评估是否可以打通P2P

                          另外,电源建议多打出一些余量,双卡至少1000w以上。我的双r9700,用振华1300w电源,几乎满功率300w运行5.5小时,非常稳定。

                          Kins HoK
                          Kins HoK
                          Kins Ho
                          编写于 最后由 编辑
                          #58

                          @PhoenixRise2026 好的我先瞭解lspci -tv,再試試看,如有消息回報,感謝大大們

                          1 条回复 最后回复
                          0
                          • PhoenixRise2026P
                            PhoenixRise2026P
                            PhoenixRise2026
                            德高望重
                            编写于 最后由 编辑
                            #59

                            关于SGLang TP2 + DFlash2 的测试情况,麻烦老特 @Terry 帮忙添加的主帖上。后续关于x99 双卡的测试情况都索引到这个帖子。方便大家查看。

                            X99 打通双 R9700 P2P 后:SGLang TP2 + DFlash2 实测
                            https://lcz.me/topic/2036

                            🔧 X99 × Dual R9700 P2P Lab
                            https://lcz.me/projects/local/x99-amd-gpu-p2p

                            terryT 1 条回复 最后回复
                            0
                            • PhoenixRise2026P PhoenixRise2026

                              关于SGLang TP2 + DFlash2 的测试情况,麻烦老特 @Terry 帮忙添加的主帖上。后续关于x99 双卡的测试情况都索引到这个帖子。方便大家查看。

                              X99 打通双 R9700 P2P 后:SGLang TP2 + DFlash2 实测
                              https://lcz.me/topic/2036

                              terryT
                              terryT
                              terry
                              超级版主
                              编写于 最后由 编辑
                              #60

                              @PhoenixRise2026 说:

                              https://lcz.me/topic/2036

                              搞定了,有类似需求可以@所有版主

                              油管:https://www.youtube.com/@抡锤者

                              1 条回复 最后回复
                              0
                              • PhoenixRise2026P
                                PhoenixRise2026P
                                PhoenixRise2026
                                德高望重
                                编写于 最后由 编辑
                                #61

                                更新一下进展:

                                已经把 X99 / Broadwell-EP(8086:6f00)的 P2PDMA 白名单补丁提交给 Linux PCI 维护者,目前被正式接收,已进入 pci/p2pdma 和 pci/next 分支,目标合并至 Linux v7.4。官方更新后未来不需要再编译内核了。

                                目前还未确认进入 Linus 主线,后续有进展再更新。

                                🔧 X99 × Dual R9700 P2P Lab
                                https://lcz.me/projects/local/x99-amd-gpu-p2p

                                terryT 1 条回复 最后回复
                                1
                                • PhoenixRise2026P PhoenixRise2026

                                  更新一下进展:

                                  已经把 X99 / Broadwell-EP(8086:6f00)的 P2PDMA 白名单补丁提交给 Linux PCI 维护者,目前被正式接收,已进入 pci/p2pdma 和 pci/next 分支,目标合并至 Linux v7.4。官方更新后未来不需要再编译内核了。

                                  目前还未确认进入 Linus 主线,后续有进展再更新。

                                  terryT
                                  terryT
                                  terry
                                  超级版主
                                  编写于 最后由 编辑
                                  #62

                                  @PhoenixRise2026 这个事情很值得庆贺,正式通过问题不大,很有意义,然后记得单独发帖。我要再视频里大力宣传一番。

                                  油管:https://www.youtube.com/@抡锤者

                                  1 条回复 最后回复
                                  0
                                  • PhoenixRise2026P
                                    PhoenixRise2026P
                                    PhoenixRise2026
                                    德高望重
                                    编写于 最后由 编辑
                                    #63

                                    @Terry 没问题。Linux 7.4预计正式发布可能得12月或1月了。要是正式被合并到主干了,我就发一帖,这也是第一次为开源社区贡献代码。

                                    🔧 X99 × Dual R9700 P2P Lab
                                    https://lcz.me/projects/local/x99-amd-gpu-p2p

                                    terryT 1 条回复 最后回复
                                    1
                                    • PhoenixRise2026P PhoenixRise2026

                                      @Terry 没问题。Linux 7.4预计正式发布可能得12月或1月了。要是正式被合并到主干了,我就发一帖,这也是第一次为开源社区贡献代码。

                                      terryT
                                      terryT
                                      terry
                                      超级版主
                                      编写于 最后由 编辑
                                      #64

                                      @PhoenixRise2026 这是个大事,个人荣誉,社区也沾光。

                                      油管:https://www.youtube.com/@抡锤者

                                      1 条回复 最后回复
                                      1
                                      • ,Simon Li 0S Simon Li 0 引用了 此主题

                                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                      有了你的建议,这篇帖子会更精彩哦 💗

                                      注册 登录
                                      回复
                                      • 在新帖中回复
                                      登录后回复
                                      • 从旧到新
                                      • 从新到旧
                                      • 最多赞同


                                      • 登录

                                      • 登录或注册以进行搜索。
                                      • 第一个帖子
                                        最后一个帖子
                                      0
                                      • 版块
                                      • 最新
                                      • 标签
                                      • 热门
                                      • 用户
                                      • 群组