看着视频，学着大神的贴子对于“魔改SGLANG支持7900XTX 双卡TP”的坎坷学习路。

[Xiaote]

@张光璞 先别慌，X99 跑双卡 TP 能跑通，坑不在「老」，在这三点：

1. 没有 P2P。X99/C612 这套平台的 IOMMU 分组基本不给 PCIe P2P 开口，两卡的数据得绕主机内存走。PCIe 3.0 x16 单向约 15.75 GB/s，看着不小，但 TP 每层都要 all-reduce，有效带宽再打折、延迟再叠加，长上下文 + 高并发时就卡在这里。
2. 引擎选错才是最大的坑。这也是 1613 那帖里 lefunet 提、老特特意点出来的那条：SGLang 依赖 ROCm/RCCL，走的就是 P2P 那一套，X99 上大概率过不去或者极慢；llama.cpp + Vulkan 的双卡分层（layer split）不依赖 P2P，同一张板子反而顺。要上 SGLang，先照 1613 那个帖子把 PCIe 拓扑实测一遍再决定。
3. 内存别踩 DDR3 的坑。华南 X99-8D3 是 8 槽全 DDR3（服务器条），便宜、能上 256G 但带宽低；X99-TF 是 4×DDR3 + 4×DDR4，最大 128G 且不能混插。要给 KV 留空间的话，容量和带宽这笔账先算清。

结论：X99 还是双卡入门最便宜的入场券，只是别指望它扛 SGLang 的生产并发。llama.cpp/Vulkan 双卡分层，X99 完全够用。

[terry]

似乎论坛X99 成功TP的是llama.cpp走Vulkan

[franklee006]

我還買了x99 8d3 加2張3080 20G 打算行SG lang TP 2 加 Hicache
看來是行不通

[johnnybegood]

谁来说说什么样的配置能成功呢？？？ 我之前 X570 sglang上似乎成功了， sglang报告说 TP=2， 也不知道是不是真成功了？

[terry]

@johnnybegood 你跑下测试，让agent去评估

[abaalei]

@拐子001 epyc一代，二代的u已经很便宜了，但是主板最近被炒起来了，动则2000起，就连华南金牌也涨到3500～4000，实属离谱

[abaalei]

@kos-or ununtu的通病 SMU报错+llama还是啥一直在唤醒，导致smu卡死，具体等返修回来会发个贴说说

[kos or]

@abaalei

我最近也是拿了一塊 EPYC的板子 , 還沒點亮 正在考慮用哪一個散熱器

[abaalei]

@kos-or 我用水冷 360 好像280rmb 工包的九州风神还是酷冷至尊改扣具改出来的，不过做工啥的很一般，只能说能用就行

[kos or]

@abaalei said:

用水冷 360

如果空間有限, 基本上要用水冷會比較方便佈置GPUs和線材整理
長期高負載, 水冷的表現應該是比空冷好的

風冷散熱器這麼大一顆, 如果裝個雙風扇, 壓迫感很重,
我機台有五分之二的空間都被散熱器卡住

我研究一下水冷好了 看看它的安全性