-
双R9700 如果要实现双卡TP, 需要主板支持必须技术如下:
2个PCIE3.016 直通CPU(X99 系列主板) 或者
拆分成2个PCIE4.08(个别消费级主板)
Above 4G Decoding = ON
Resizable BAR = ON
CSM = OFF2个PCIE3.0*16 直通CPU 可以实现root complex P2P
mermaid-diagram.png

消费级主板确认两个 x8 槽都接 CPU 可以支持拆分,主板的第二个长插槽实际接芯片组不可以。
但是不管是消费级CPU 还是E5v3/v4, 都必须支持Resizable BAR = ON, 否则 GPU不可能认识到另一个GPU的地址。
现在可以确认的主板有
resize BAR功能的是这些型号:X99-4MF 4MT 4MTPLUS 4MFPLUS
8D3 8D4 AD3 AD4 BD3 BD4
F8D T8D F8DPLUS M-F M-T
P4T P4F PD3 PD4框架推理方案
https://github.com/Eliovp-BV/paiton-vllm-plugin
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese
https://github.com/magiccodingman/vllm-radiance
https://lcz.me/topic/1925模型选择

-
请问 X99主板老化、掉卡的风险有多大?运行可靠性如何?
-
,
S suboyang 将此主题从 LLM讨论区 移至此处
-
X99-tf应该也支持,但是好像要刷鸡血的BIOS
-
@suboyang ACS = Access Control Services,PCIe 规范里的访问控制,本来是给带 switch/桥的拓扑做设备隔离(IOMMU 分组、热插拔、SR-IOV 安全场景)用的。它默认会拦「不经过根复合体(RC)的对等访问」,也就是 GPU 之间的 P2P DMA。对设备隔离是对的,但你本机两卡互访要的就是 P2P,所以它成了拦路虎:哪怕两卡在同一个 root complex 下、BIOS 也开了 Above 4G + ReBAR,只要路径上有一个默认开 ACS 的桥/switch 端口,hipDeviceCanAccessPeer 仍可能返回 0,P2P 就退回 host-staged(走内存中转)。
怎么定位和处理:
- 别只信 BIOS 选项:
rocm-smi --showtopo看两卡 weight/hops,再跑一段hipDeviceCanAccessPeer,或用RCCL_DEBUG=INFO看 all-reduce 走的是 P2P 还是 SHM。 lspci -vvv找路径上的 bridge,看ACSCap/ACSCtl——ACSCtl里出现SrcValid+ ...这类就是它在挡。- BIOS 里一般有
ACS Enable/Access Control Services,能找到就关。 - 没选项时 Linux 侧常用
pci=acs_override(或按 PCI 地址用 setpci/内核补丁改 ACS Control 位)。 - 关 ACS = 拿设备间隔离换 P2P 性能,本机自用/可信环境再关;有其它租户或多用户就别关。
补一句:如果两卡各自直连 CPU 的两个 root port、中间没有桥,那 ACS 根本不参与,关不关都一样,别白折腾。
- 别只信 BIOS 选项:
-
X99(2014 年的 Haswell-EP/Broadwell-EP + C612)今天最大的风险不是性能够不够,而是主板的供电与 PCB 老化,以及二手板/延长线的接触问题。分开说:
一、掉卡的常见原因(多为链路/供电,不是 CPU 老)
- 接触:金手指或插槽氧化 → 重插、擦金手指、换槽。
- 延长线/riser:老平台对信号完整性更敏感,延长线折弯/劣质线最容易掉卡 → 先直插对比。
- 电源老化:12V 纹波变大、单路多卡瞬态触发 OCP → 换新电源、每卡独立供电线。
二、真正不可逆的是主板 VRM 老化
- 电解电容 ESR 上升,供电相数少的板长期带高功耗卡容易掉压、死机、重启。
- 检查:鼓包电容、焦味、VRM 散热片温度;EP5 v3 可关 Turbo 或用 RAPL 限功耗,能明显延长寿命。
- 内存这块反而稳:ECC REG RDIMM 自带纠错,比消费平台可靠,不是短板。
三、可靠性预期
- 当学习/实验平台没问题;当 7×24 生产要打折扣。
- 做生产至少:GPU 单独一路供电、加 UPS、数据离机备份;每 3–6 个月清灰换硅脂、查风扇。
- 别刷来路不明的「鸡血 BIOS」(楼下提到的 X99-TF 那种):改电压/倍频/微码有变砖风险,收益也有限;自用图稳,默认 + 限功耗更划算。
一句话:二手 X99 当 AI 玩具可以,前提是「板子随时可能坏、你能随时换板/换平台」;别把唯一的生产机押上去。
-
-
现在最大的问题是,Qwen3.8-27B-MXFP4 这类模型,我还没有看到双卡 R9700 可以稳定100t/s 以上的,尤其是250K上下文的测试,如果在250K 还能保持80~100t/s,本地模型部署才有意义,要不然干活太慢了,这个时间等不起。
-
-
-
-
没有mtp 没有 dflash 3090 双卡才80多 r9700 宽带都没有3090 强
不可能有150 吧 -
-
-
@fcme 就怕双卡TP 拉稀啊。
https://github.com/mattbucci/2x-R9700-RDNA4-GFX1201-sglang-inference
这个sglang 双卡才20t/s多,就算加上dflash2,也就40t/s。 如果是这样,双卡TP就没有折腾的必要。
我认为双卡TP 本地模型,需要保持在150t/s,才有折腾的必要,否则就没有生成力啊。玩玩image 还行。
-
-
按说这个sglang方案是没有问题的
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese双卡7900xtx 跑出了这样的水平,R9700 应该更高才对。

-
-
但是带宽影响比较大的是视频生成,和语音生成。大模型TP未必这么敏感,这个还得有人测。主要成本实在太高,要不然我自己早上手了。
-
按说这个sglang方案是没有问题的
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese双卡7900xtx 跑出了这样的水平,R9700 应该更高才对。

-
@suboyang 视频对vram 大小 带宽都有要求
只是vram更重要因为大小决定了可以生成更长的视频
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese
这个方案实际上论坛里是没有人测试过R9700双卡的,需要换一下模型,和KV参数。需要有人完全测过这个方案才行,就算R9700带宽只有640G,也不至于双卡TP 50多token,这还玩个毛线。R9700 就只能单卡方案了,那么AMD本地模型还差的很远。

等我闲了看看