抡锤者

@Xiaote

ACS 没关? 这个是什么？

https://lcz.me/topic/1938

@laobenxiong
不支持resize BAR

双R9700 如果要实现双卡TP, 需要主板支持必须技术如下：

2个PCIE3.0 *16 直通CPU(X99 系列主板) 或者
拆分成2个PCIE4.0 *8(个别消费级主板)
Above 4G Decoding = ON
Resizable BAR = ON
CSM = OFF

2个PCIE3.0*16 直通CPU 可以实现root complex P2P
mermaid-diagram.png

消费级主板确认两个 x8 槽都接 CPU 可以支持拆分，主板的第二个长插槽实际接芯片组不可以。

但是不管是消费级CPU 还是E5v3/v4, 都必须支持Resizable BAR = ON， 否则 GPU不可能认识到另一个ＧＰＵ的地址。

现在可以确认的主板有
resize BAR功能的是这些型号：X99-4MF 4MT 4MTPLUS 4MFPLUS
8D3 8D4 AD3 AD4 BD3 BD4
F8D T8D F8DPLUS M-F M-T
P4T P4F PD3 PD4

R9700方案
https://www.primeline-solutions.com/media/categories/server/nach-gpu/amd-radeon-ai-pro-r9700/amd-radeon-ai-pro-r9700-rocm-pytorch-environment-setup-guide.pdf

框架推理方案
https://github.com/Eliovp-BV/paiton-vllm-plugin
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese
https://github.com/magiccodingman/vllm-radiance
https://github.com/mattbucci/2x-R9700-RDNA4-GFX1201-sglang-inference

模型选择

跨 Root Port P2P 的完整实战记录
https://lcz.me/topic/1925

客服传话：
加入了resize BAR功能的是这些型号：X99-4MF 4MT 4MTPLUS 4MFPLUS
8D3 8D4 AD3 AD4 BD3 BD4
F8D T8D F8DPLUS M-F M-T
P4T P4F PD3 PD4

最新带ARGB的TF T8 也支持ReBAR

@fcme 不是，搞本地模型不就是为了干大活，24小时推理着。不过精度差的不多。
Qwen3.8 27B MXFP4 + DFlash2 比 Qwen3.8 27B FP8 精度，

云端模型真心跑不起，每个月100亿token

@fcme 精度，精度，版主是FP8，官方精度。
Qwen3.8 27B MXFP4 + DFlash2 比 Qwen3.8 27B FP8 精度少一半

内核应该用 kernel 7.2.7,

还要使用Triton

@张光璞 说:

99主板好像没有ReBAR

X99主板用ReBAR，需要打BIOS补丁的。所以才去买华南金牌X99主板，他们把补丁已经打好了。ReBAR 只能在UEFI开启，传统BIOS不支持。

@张光璞
amd 双卡P2P 跑起来, 你是值得哪个AMD CPU？

@张光璞
你说的哪个平台，把链接发给我。

双路跑 双卡方案不靠谱，双路跑的都是4卡方案。而4卡方案，才会选择PCIE switch.

双卡CPU P2P，和用pcie switch GPU p2p 性能没区别啊。

@张光璞
一直想问，你为什么不换一个主板搞呢？非得用双路 CPU？不管是论坛里，还是github 都是单CPU

@hippo

是all reduce的速度，延迟低，但是双卡pcie switch 收益极小。

@PhoenixRise2026

谢谢等你后续，稳定后，我也整一套，主要是双卡R9700跑tcclaviger/Qwen3.8-27B-DFlash2-FP8 就是怕性能太低。

@Magic629

主板要支持
双PCIE3.0*16 直通CPU
Above 4G Decoding = ON
Resizable BAR = ON
CSM = OFF

其实X99 双PCIE就行，GPU通信消耗不大，主要看整体架构，128G DDR4 四通道要比DD5 双通道有价值的多。

铭瑄销售和我说支持，但我也没买过，你可以问问。

关键Qwen3.8-27B-MLX-6bit 没意义啊，这么低精度，干活干一会就累了。

@johnnybegood

前几天找铭瑄要了一下可以PCIE 拆分的产品，也可以

不用P2P，可以share-memory. 这个双卡7900xtx 也是share-memory

https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese

南桥芯片的速度慢，其实也能TP，就是效率太低。