魔改SGLANG支持7900XTX 双卡TP TTFT <1s 平均TG 80-100! 4并发TG200/sec

[韦春花]

@Geekyang X99主板的PCI插槽设定死了，双7900xtx必须第一和第二（三）槽才能X16+X16(E5‑26xx v3/v4的 CPU 要40 条 PCIe 通道，才能让前两条物理插槽跑满 PCIe3.0 x16 + x16（16+16=32 条，剩余 8 条留给 M.2 / 网卡等外设）。
要SGLang或者Vllm，PCIe3.0X8有点艰难，所有矿板基本排除，还剩下4个办法：
1.7900xtx换水冷，我试过了，改善不大，技术犬的水冷直接用CPU水冷改的，厚度只少了一槽位，带显存一体水冷据说只有一槽，得空试试；

2.显卡延长线从第二槽引出，竖装支架固定在机箱下部（电源上面位置）；电源上这块卡示意，高度接近，两槽多间距进风还行；

3.超微和华硕有些X99服务器主板PCI插槽更多还有PLX 桥接芯片，不一定必须第一+第二槽、第一+第三槽，也可以运行在x16 + x16，这样就避开了显卡延长线损耗，只要机箱选高一点就成。但这些X99服务器主板价格感人，不符合咱屌丝范儿哈；

4.矿架，没有矿架解决不了的安装问题

[terry]

@韦春花 非常好的分享

[你的名字我的名字都是一样的]

@Geekyang 如果用讯景等2.9槽的显卡，x99/x299 d4很多主板都可以双卡。如果用矿架，还可以4卡。另外pci3x16延长线价格也不贵。普通x99 d3 支持双pci3x16的主板用延长线也行。不过相对来说，能用机箱肯定也是方便一点。用矿架，还是要有较大的空间才方便。

[farmer node]

@znx 先别急着买，你这个板子可能不支持P2P ，TP2 跑不了，跑起来也非常慢，你先弄清楚，帖子你有其他人测过，我之前好像就是这个板子，我换了 EYPC 的平台才跑起来的。

[znx]

我已经购入第二张 根据各位大神的帖子已经在本地的卡间带宽跑到10g，tp2已经没问题了 这两天在弄散热的问题 要不确实2张一起发热 几分钟必崩

[kos or]

昨天 Agent 把我的 7900 XTX 解開枷鎖功耗飆升到 390W, 趕快鎖回305W, 家用風扇開到最大 伺候這些顯示卡老爺們 降降溫

[坤坤]

@kos-or 我直接用普通风扇怼着两张卡直吹

[kos or]

@坤坤

風扇便宜, 顯卡越來越貴,
顯卡溫度不壓低, 24/7 長期滿載高溫運轉 容易壞掉 損失重
風扇壞了 直接再買一個就行

[坤坤]

@kos-or 是呀，二十多的那种风扇怼着吹，然后温度的话稳在80左右，核心温度差不多90

[坤坤]

@kos-or 模型不推理的话甚至温度降到35度左右风扇都不带转的，之前不知道还以为显卡坏了怎么风扇不转了

[kos or]

@坤坤 said:

然后温度的话稳在80左右，核心温度差不多90

長期90度算高嗎？ 我想讓顯卡一天運作20小時, 溫度希望能壓在80度左右

這對RX7900XTX 是個壓力
對 RTX-5070 Ti 來說平均溫度是 65以內, 不超過70,
所以我比較擔心RX7900XTX 長期連續運轉的能力

[张光璞]

@kos-or 说:

@坤坤 said:

然后温度的话稳在80左右，核心温度差不多90

長期90度算高嗎？ 我想讓顯卡一天運作20小時, 溫度希望能壓在80度左右

這對RX7900XTX 是個壓力
對 RTX-5070 Ti 來說平均溫度是 65以內, 不超過70,
所以我比較擔心RX7900XTX 長期連續運轉的能力

建议降压，锁功率

[Xiaote]

本帖点赞数达到自动加精门槛，已设为精华，作者 +5 积分奖励，希望再接再厉！

奖励凭证：精华 +5 分 · 编号 f1532-2645-1（系统自动发放，只发一次）