求RTX 3090 (后续双卡)的整机配置
-
先恭喜,8499 带一年京东自营质保,比闲鱼扯皮省心,值。
双 3090 整机给一份清单思路(Suprim X 约 2.75 槽、33.6cm,先确认机箱装得下):
- 平台:AM5 就行,别追 x3D。CPU 7500F/7700 够;主板规格页必须写「CPU 直出 x8/x8」,否则第二张只能跑芯片组 x4。预算紧可以上二手 X570(ProArt X570-CREATOR、X570 太极这类支持 x8/x8)。
- 内存:64G DDR5(32×2)起步,27B 够用;以后要 MoE/PLE 卸载再上 128G。
- 电源:1000W ATX 3.1 金牌以上,原生多路 PCIe 8pin(Suprim X 单卡 3×8pin,两张就是 6 条)。3090 瞬态很凶,别省电源。
- 机箱/散热:两张卡别贴死,至少隔一槽;前进风 3 风扇 + 顶部排风的塔机。3090 显存温度是重点,nvidia-smi 到 105°C 就是红线。
- 存储:2T NVMe 顶模型。
- NVLink:可选。双 3090 走 SGLang TP2,PCIe 也能跑;桥按实际槽距选 3 槽/4 槽,别为它多花 2000+(这帖上面刚聊过)。
一句话:钱花在电源、机箱和主板的 x8/x8 上,比花在 CPU 和灯上划算。
-
先恭喜,8499 带一年京东自营质保,比闲鱼扯皮省心,值。
双 3090 整机给一份清单思路(Suprim X 约 2.75 槽、33.6cm,先确认机箱装得下):
- 平台:AM5 就行,别追 x3D。CPU 7500F/7700 够;主板规格页必须写「CPU 直出 x8/x8」,否则第二张只能跑芯片组 x4。预算紧可以上二手 X570(ProArt X570-CREATOR、X570 太极这类支持 x8/x8)。
- 内存:64G DDR5(32×2)起步,27B 够用;以后要 MoE/PLE 卸载再上 128G。
- 电源:1000W ATX 3.1 金牌以上,原生多路 PCIe 8pin(Suprim X 单卡 3×8pin,两张就是 6 条)。3090 瞬态很凶,别省电源。
- 机箱/散热:两张卡别贴死,至少隔一槽;前进风 3 风扇 + 顶部排风的塔机。3090 显存温度是重点,nvidia-smi 到 105°C 就是红线。
- 存储:2T NVMe 顶模型。
- NVLink:可选。双 3090 走 SGLang TP2,PCIe 也能跑;桥按实际槽距选 3 槽/4 槽,别为它多花 2000+(这帖上面刚聊过)。
一句话:钱花在电源、机箱和主板的 x8/x8 上,比花在 CPU 和灯上划算。
-
可以插,但要先分清「能不能点亮」和「跑得快不快」。
七彩虹 Z790 + 12700K 这套,CPU 直连只有 16 条 PCIe 5.0(给主槽)+ 4 条 4.0(一般给 M.2);第二条全长槽基本走 Z790 芯片组,电气上是 PCIe 4.0 x4,而且芯片组上下行共用 DMI 4.0 x8。所以「5.0 x16 + 4.0 x4」是能开机的组合,但两张卡并不对等。
按用途分:
- llama.cpp 用
--split-mode layer(按层切):跨卡只传激活值,量很小,x4 4.0(约 8 GB/s)够用,真正的瓶颈是 3090 的显存带宽,不是 PCIe。双 3090 这样跑 27B 级可行。 - vLLM/SGLang 的 tensor parallel(每层 all-reduce):3090 没 NVLink,GeForce 默认也不开 PCIe P2P,
nvidia-smi topo -m两卡之间大概率是SYS,NCCL 退回走主机内存;再叠 x4 链路,TP=2 会明显掉速,不建议当主力。
上线前先做两件事:
- 翻主板手册/BIOS,看 CPU 那条 x16 槽有没有「PCIe Bifurcation / x8+x8」选项。有就打开,两张卡各 x8 5.0,比 x16+x4 好得多;BIOS 里没有这个选项就是硬件不支持,别硬找。
- 确认第二槽的共享关系:芯片组槽常和 M.2/SATA 抢通道,手册里会写,插之前对一遍。
验证命令:
nvidia-smi topo -m看两卡是 PIX/PHB 还是 SYS;NCCL_DEBUG=INFO看走 P2P 还是 SHM。结论:能插、能跑;层切可以,TP 会被 x4 + 无 P2P 拖累。有条件优先 x8/x8。
- llama.cpp 用