X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P:从内核、RCCL 到 SGLang Qwen3.8 实战
-
差不多,最后就得两个5090。但是这个成本也太高,其实单卡R9700 跑qwen3.8 27B 100token/s 也可以了。就是看看双卡R9700 能不能优化到120~130token/s 或者更高
-
-
,
T terry 固定了此主题
-
@PhoenixRise2026
又看了一遍这个帖子,老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了,就像版主说的,由于SGlang优秀的缓存机制,其实pp这一块重要性没有那么高,那你可以考虑把dflash2给加进去吗?这样的话,这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话,那你基本上功德无量了

这两天懈怠了,十一前把dflash2测了
-
@PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。
@PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。
谢谢老特提醒,创建了个项目,需要的兄弟们可以参考,也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p -
@PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。
谢谢老特提醒,创建了个项目,需要的兄弟们可以参考,也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p -
@PhoenixRise2026 可以继续优化,或许可以出个github项目,这玩意还挺重要的。
谢谢老特提醒,创建了个项目,需要的兄弟们可以参考,也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p@PhoenixRise2026 显卡还在路上 已经 star 了,沙发
-
-
,系统 取消固定了此主题
-
-
@Terry 已加到签名栏。
正在测试dflash2,目前看比mtp的decode要更快,还在调试参数
-
,
P PhoenixRise2026 引用了 此主题
-
-
@PhoenixRise2026 看看这玩意能不能和strata蹭上,搞不好也很有意义

-
尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
也可以建置嗎?處理器 雙路 Intel Xeon E5-2696 v4
主機板 HUANANZHI X99 F8D
記憶體 海力士DDR4-2133 128GB
顯示卡 2080ti / 3060
電源 750w /850w尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
也可以建置嗎?處理器 雙路 Intel Xeon E5-2696 v4
主機板 HUANANZHI X99 F8D
記憶體 海力士DDR4-2133 128GB
顯示卡 2080ti / 3060
電源 750w /850w双路 E5-2696 v4 + X99 F8D + 128GB 内存本身没有明显问题,不过如果想跑双卡,关键不在 CPU 和内存,而是在 主板 PCIe 拓扑。
不同 X99 双路板的 PCIe 插槽可能分别挂在不同 CPU / Root Port 下,所以目前还不能只看型号就确定 P2P 一定能打通。
你可以先在这台 F8D 上执行:
lspci -tv
让AI来评估是否可以打通P2P
另外,电源建议多打出一些余量,双卡至少1000w以上。我的双r9700,用振华1300w电源,几乎满功率300w运行5.5小时,非常稳定。
-
-
尋求大老給問,我目前有2台洋垃圾,就差在顯卡與電源供應器。
也可以建置嗎?處理器 雙路 Intel Xeon E5-2696 v4
主機板 HUANANZHI X99 F8D
記憶體 海力士DDR4-2133 128GB
顯示卡 2080ti / 3060
電源 750w /850w双路 E5-2696 v4 + X99 F8D + 128GB 内存本身没有明显问题,不过如果想跑双卡,关键不在 CPU 和内存,而是在 主板 PCIe 拓扑。
不同 X99 双路板的 PCIe 插槽可能分别挂在不同 CPU / Root Port 下,所以目前还不能只看型号就确定 P2P 一定能打通。
你可以先在这台 F8D 上执行:
lspci -tv
让AI来评估是否可以打通P2P
另外,电源建议多打出一些余量,双卡至少1000w以上。我的双r9700,用振华1300w电源,几乎满功率300w运行5.5小时,非常稳定。
@PhoenixRise2026 好的我先瞭解lspci -tv,再試試看,如有消息回報,感謝大大們
-
关于SGLang TP2 + DFlash2 的测试情况,麻烦老特 @Terry 帮忙添加的主帖上。后续关于x99 双卡的测试情况都索引到这个帖子。方便大家查看。
X99 打通双 R9700 P2P 后:SGLang TP2 + DFlash2 实测
https://lcz.me/topic/2036 -
关于SGLang TP2 + DFlash2 的测试情况,麻烦老特 @Terry 帮忙添加的主帖上。后续关于x99 双卡的测试情况都索引到这个帖子。方便大家查看。
X99 打通双 R9700 P2P 后:SGLang TP2 + DFlash2 实测
https://lcz.me/topic/2036搞定了,有类似需求可以@所有版主
-
更新一下进展:
已经把 X99 / Broadwell-EP(8086:6f00)的 P2PDMA 白名单补丁提交给 Linux PCI 维护者,目前被正式接收,已进入 pci/p2pdma 和 pci/next 分支,目标合并至 Linux v7.4。官方更新后未来不需要再编译内核了。
目前还未确认进入 Linus 主线,后续有进展再更新。
-
更新一下进展:
已经把 X99 / Broadwell-EP(8086:6f00)的 P2PDMA 白名单补丁提交给 Linux PCI 维护者,目前被正式接收,已进入 pci/p2pdma 和 pci/next 分支,目标合并至 Linux v7.4。官方更新后未来不需要再编译内核了。
目前还未确认进入 Linus 主线,后续有进展再更新。
-
-
@Terry 没问题。Linux 7.4预计正式发布可能得12月或1月了。要是正式被合并到主干了,我就发一帖,这也是第一次为开源社区贡献代码。
-
,
S Simon Li 0 引用了 此主题
本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!