【抄作业】X99-TF + 128G DDR3 + 双7900 XTX，Strata和SGLang都跑起来了

[jian xu]

我这个显存占满了会有问题嘛

[xiongjie gao]

@ymxdkb 期待

[xiongjie gao]

@jian-xu 风扇太响吵得脑仁疼
现在我把卡都调到平衡档，慢点就慢点，能长时间跑就行

[ymxdkb]

jian-xu 你这转速恐怖了点，我的风扇最高2000转，不过我觉得80%够用了，再高噪音就有点大了。

[xiongjie gao]

@jian-xu 显存满了会oom，你让AI写个智能显存调控的监测就好了。
（PS：温度确实压得漂亮）

[懒人烘培]

我就喜欢封闭式机箱，完美装两张7900XTX

[xiongjie gao]

@懒人烘培 说起来，你还没亮过你的机箱呢

[懒人烘培]

@xiongjie-gao 很早之前发过的哈，老特有时候说用捆扎带捆绑的显卡就是我~
地址：https://lcz.me/post/19564

[xiongjie gao]

@懒人烘培 原来这个就是你，看你贴子的时候我还没装机呢

[懒人烘培]

@xiongjie-gao 哈哈~之前好几天就在折腾这个双卡如何摆放~

[Wang Wei]

@懒人烘培 这个问题我也想了很久，卡实在太大了，正常机箱根本放不下

[suboyang]

不是 Strata P2P方案没有意义啊，因为Strata 双卡方案不是并行。

[懒人烘培]

@Wang-Wei 嗯，有的小机箱可以吊装显卡，还有配件。

[Wang Wei]

@suboyang 说:

不是 Strata P2P方案没有意义啊，因为Strata 双卡方案不是并行。

Strata 跑Qwen3.8-Flash-Next
双卡TP 跑SGLang Qwen3.8-27B

[lefunet]

小白有点疑问，感觉双卡的速度是不是没有很大的提升，只是增加了显存？我看我的单卡在Windows vulkan 下有时候能冲到80T/S，prefill一般在700左右

[Wang Wei]

@lefunet 说:

小白有点疑问，感觉双卡的速度是不是没有很大的提升，只是增加了显存？我看我的单卡在Windows vulkan 下有时候能冲到80T/S，prefill一般在700左右

对来我说这次折腾最大的收益是128G大内存可以跑比较高精度量化的qwen 3.8 flash next。它处理我交给它的任务已经达到了相当可用的水平。但这个只需要一张卡就够了。双卡的话可以玩SGlang miniMax可以支持更高分辨率算起来也更快了。

[W X]

楼主 ，主板BIOS 要不要改设置？

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励！

奖励凭证：热议 +3 分 · 编号 h2743-1345-1

[Wang Wei]

@W-X 说:

楼主 ，主板BIOS 要不要改设置？

要的，我都是按参考的帖子改的。但实际改的不多，改完之后都是让Hermres操作的，你可以问问它需要改哪些，怎么改。我还问了GPT怎么改。

[dardeaw feng]

SGLang對AMD的優化還是有空間的，估計是WMMA對某些量化算子沒接上，我之前使用的經驗上是這樣