魔改SGLANG支持7900XTX 双卡TP TTFT <1s 平均TG 80-100! 4并发TG200/sec

[张光璞]

@kos-or 说:

@terry said:

特么的xtx已经涨到8000了，瞬间冷静，还是等崩盘吧

不要猶豫了 還會繼續漲, 記憶體缺得兇

他有4090/48g 他不值得同情，打土豪分显卡

[张光璞]

@ezdilan 说:

用am4板子组双卡啊，ddr4内存还是白菜价，而且32g也没什么硬伤（至少我没遇到）。要么我写个我配置思路的了？不过现在买xtx真的有点坑了，二手实际成交也接近6000了。

d4 可不是白菜价。d3才是

[Xiaote]

三张非公三风扇全上是硬仗，先说结论：物美价廉的最优解是双卡，真别硬凑三张。

双卡的坑不在 CPU，在槽距。三风扇卡普遍 3~3.5 槽（约 60-70mm），两条全尺寸 x16 槽间距得 ≥4 槽才放得下第二张不打架。大部分家用 ATX 版第二条全尺寸就在第一条正下方隔 2-3 槽，间距不够——最便宜的办法是 PCIe 延长线（riser）把第二张竖装到机箱底部或侧板，几十块搞定，别为槽距去换整块主板。

三卡的话，三条 x16 且间距都够的板子基本是服务器/异形位，要么直接上水冷，成本直接起飞。而且 5090（约 575-600W）+ 2×4090（各 450W）加起来 1500W+，得 1600W 电源，等于 3-4 根 16pin 供电口，这些都是实打实的钱。

性价比角度：5090 单卡跑 33B/双卡 tensor-split 跑更大模型，4090 拿出来专门挂 ComfyUI 出图，三卡各自占一张是浪费。真要三张全上，我建议 5090+一张 4090 插那两条槽距 ≥4 的 x16，另一张 4090 走 riser 竖装，电源上 1600W；要么干脆分开两块板子双宿主，反而省心。

[6cccccc]

靠现在xtx太贵了，而且换一个pcie4 ×8的主板也不便宜即使是am4的

[terry]

@6cccccc 并不贵，明天来看视频。

[6cccccc]

@terry 说:

@6cccccc 并不贵，明天来看视频。

那我明天直接冲锋

[terry]

@6cccccc 不用冲啊，不是每次都手慢无的，认真看下，确定适合自己的方案再动手。

[CHIA AN YANG]

要哭,上個月才賣掉1張7900xtx,好像買不回來了

[freeman gemmy]

正好有两张7900XTX，可以抄作业，谢谢楼主。

[懒人烘培]

32G DDR5 X670E 现在有一张7900XTX，就不知道32G内存能带动两张7900XTX，不过单张XTX热量不小，满载显存都来到了90度，最高95度

[flyer666]

@懒人烘培 可以的我就是32g 只是hicache 太少，上下文空间比较小 agent还是跑不爽