抡锤者

感叹啊。我64g ddr4都好不容易凑齐。哭一小时去

@Thanaots 说:

上上周，死活抢到了一个4800刀的5090。然后就没有然后了

牛啊，我每天检测microcenter的价格，就没见过这么便宜的

牛 我是 m920 加了 3060 用来轻量生图 你这个猛了

@李喆 我就是这张卡，白色的，很漂亮

@applejuice 水冷要改造显卡吧，这个自己可能搞不定哇。

@李喆 主板z690 ace，没办法双卡都放机箱，贴脸了。只能一块外置，然后也没办法用nvlink。

我一张fe + evga 三风扇 3090. evga放机箱里，fe使用延长线放到了外边，所以也没有nvlink。这卡很热，放一起我真怕热死。

@applejuice 感谢回复。我也觉得是这个问题。

@johnnybegood 说明我的配置还有问题，我让deepseek再调 ：）

@starryskyknight 同配置复测来了，先报数据再请教硬件。

环境：SGLang 0.5.19 + twolven AWQ-MTP + incoai DFlash2（8/8, fp8_e5m2, mem 0.88, mamba 20, TP2, NCCL_P2P_DISABLE=1），你的统一脚本，t=0 / 512 tok / 3 rounds，thinking OFF：

单路 decode：代码 218.0 t/s（LRU prompt）、TTFT 0.06-0.10s
并发 2 路：同 prompt 355.2、不同 prompt 367.1

想对齐几个硬件问题：

1. 我这边 2×3090 走主板 PCIe x8+x8（i7-13700K，Z690），无 NVLink，NCCL P2P 已禁用。你那边 3090 是 x16 还是 x8？NVLink 之外主板的 PCIe 分配是？
2. CPU 是什么？我在猜并发 355 vs 你 440 的差距主要来自 CPU/PCIe lanes（我是 24 线程桌面平台），不是模型或 SGLang 参数——想验证这个假设。
3. mem-fraction 你用 0.90，我试过 0.88（给 draft graph 多点空间）单路略好，0.93 会挤 draft graph。你 0.90 时 draft graph avail mem 大概多少？

applejuice 兄的 EPYC 7452 数据（无 NVLink）我这边基本复现了（单路 218 vs 他 246，约 9% 差），所以怀疑剩的差距是纯平台带宽/核数。

我靠，还穿着皮衣，牛逼！

我是进来膜拜的，大佬太强了@williamlouis
向各位学习，我还在摸索

感谢大佬，我在3060上测试了下也能跑，不过只能设到0.7mp。

@starryskyknight 感谢回复，我也是买了线放到外边，根本没法装一起。放外边反而散热好很多

牛 我也 3090 双卡 没想过这些

@starryskyknight 问一下这位兄弟，你是把其中的一张卡给竖起来放置了吗？我现在也有类似的问题，我一张卡是 EVGA 的三风扇的卡，另外一张卡是 NVIDIA 的 FE。如果两张卡都并排放的话，根本就没有空间了。

各位大佬，有一个问题想求助一下。我有一台主机，是用了一块 EVGA 的 3090（3风扇）,主板是 Z690(3插槽)，是 i7-13700K 的 CPU。我还有一块NVIDIA RTX 3090 FE. 我现在想把这一块 GPU 也加到我的主机上面，但是发现，如果把这一块也加上去的话，两块就靠得很近了，中间基本上没有什么距离。为了防止有一块显卡被过热烧毁，我就暂时没有装。现在求助一下各位大佬，大家都是使用什么样的主板？或者说，我需要去另外购买一块主板，才能安装得上这两块 GPU？