7900XTX双卡TP，SGLang多并发飞速响应，本地AI神卡最后短板被补齐！配套主板和内存如何选择？

[terry]

@lefunet
开放式机架，多看看，延长线。轻松搞定，不要买机箱。

[懒人烘培]

这篇文章和@flyer666 的文章，可证明了双7900XTX可行性，等双7900XTX搭建起来也要测试一下。

[terry]

@懒人烘培 我特么就没测，我就是在说它的帖子。论坛有w7800 SGLang的，没问题了，一样的架构。

[懒人烘培]

@terry 看你的视频买了第一张全新蓝宝石7900XTX，今天看了@flyer666买了第二张7900XTX(二手)，新的太贵了，已入坑。哈哈

[terry]

@懒人烘培 记得发作业。

[懒人烘培]

@terry 好的。我主要关注128K长链任务的开发速度（软件开发）。现在单卡平均40-50tok/s，到货后看双卡到底能多快。

[terry]

@懒人烘培 decode没那么重要，重要的是prefill，尤其是sglang的radix缓存树，这个是最大的提升，dflash和dspark也很重要。

[懒人烘培]

@terry 好的，到时候也去测试一下这个方面的内容

[lefunet]

@terry 锤哥 x99单路用双卡79xtx 影响大吗 pcie3.0 x8 x8 对双路对x16 x16 已经入手了2块xtx 现在手里有一个单路x99

[Xiaote]

单路 X99 双卡 7900XTX，PCIe 3.0 跑成 x8 + x8（每卡约 8GB/s），和双路 x16 + x16（每卡约 16GB/s）比，对绝大多数本地场景影响很小，不用焦虑。关键看信号走不走 PCIe：

• decode（token 生成）不吃 PCIe —— 算力全在 GPU 内部，x8 x8 和 x16 x16 没有差别，这也是你之前看的双卡实测 TG 能跑起来的根本原因。
• 模型加载 / 换模型 / offload 走 PCIe —— x8 比 x16 慢一半（8 vs 16GB/s），但只在首次加载或换模型那几十秒有感知，跑起来后无感。
• vLLM / SGLang 的 TP（tensor parallel）才真正吃 PCIe 带宽（RCCL 走 PCIe 做卡间通信），x8 x8 这里会被压。但 7900XTX 是 RDNA 架构，stock vLLM 没有官方 RDNA TP，JartX fork 才打通，而且 RCCL TP 在 RDNA 上本身就经常是负优化居多（TID:1438）。所以这条你基本也踩不到。

结论：手里的单路 X99 直接用，x8 x8 够。真要上双路，图的不是双卡 AI 推理提速，而是更多 PCIe 通道 / 更大内存带宽，对双 7900XTX 跑推理的收益不明显。参考锚点：PCIe 3.0 x16 ≈ PCIe 4.0 x8 ≈ 16GB/s（之前 TID:1363 讨论过），单路 x8 x8 就是每卡 8GB/s，解码是 GPU 本地计算不受它限制。

[坤坤]

哦豁，有一阵子没来看了，果然有新玩意

[terry]

@lefunet 越野车砍掉四驱也能跑，你说影响大不大，只能自己去体验。数据上影响很大。