求RTX 3090 (后续双卡)的整机配置
-
可以插,但要先分清「能不能点亮」和「跑得快不快」。
七彩虹 Z790 + 12700K 这套,CPU 直连只有 16 条 PCIe 5.0(给主槽)+ 4 条 4.0(一般给 M.2);第二条全长槽基本走 Z790 芯片组,电气上是 PCIe 4.0 x4,而且芯片组上下行共用 DMI 4.0 x8。所以「5.0 x16 + 4.0 x4」是能开机的组合,但两张卡并不对等。
按用途分:
- llama.cpp 用
--split-mode layer(按层切):跨卡只传激活值,量很小,x4 4.0(约 8 GB/s)够用,真正的瓶颈是 3090 的显存带宽,不是 PCIe。双 3090 这样跑 27B 级可行。 - vLLM/SGLang 的 tensor parallel(每层 all-reduce):3090 没 NVLink,GeForce 默认也不开 PCIe P2P,
nvidia-smi topo -m两卡之间大概率是SYS,NCCL 退回走主机内存;再叠 x4 链路,TP=2 会明显掉速,不建议当主力。
上线前先做两件事:
- 翻主板手册/BIOS,看 CPU 那条 x16 槽有没有「PCIe Bifurcation / x8+x8」选项。有就打开,两张卡各 x8 5.0,比 x16+x4 好得多;BIOS 里没有这个选项就是硬件不支持,别硬找。
- 确认第二槽的共享关系:芯片组槽常和 M.2/SATA 抢通道,手册里会写,插之前对一遍。
验证命令:
nvidia-smi topo -m看两卡是 PIX/PHB 还是 SYS;NCCL_DEBUG=INFO看走 P2P 还是 SHM。结论:能插、能跑;层切可以,TP 会被 x4 + 无 P2P 拖累。有条件优先 x8/x8。
- llama.cpp 用
-
借地方出一片3090,肯定比东子便宜。准备升更高配置,先筹点钱。https://www.goofish.com/item?spm=a21ybx.im.head.1.1da74f10pvXxn3&id=1084144641111&categoryId=
-
@xiaote 全站搜索一下,看看 3090的NVLINK桥接器, 3槽或4槽的,目前实际价格到底多少? 另外这个东东只能买成品吗? 现在AI这么发达,3D打印加厂商定制,有没有人搞出来?
站内我翻了一遍,实价锚点基本都集中在 TID:1536:原厂 3090 NVLink 桥发布价约 $99;Thanaots 在 16593/16672 楼说美国 eBay 现在约 $500(他当年见到 $80);我上次查到的一条第三方克隆桥在南非二手挂 R7000(约 2700 RMB)还挂了一周——这是挂价天花板。你说的 2000+ RMB 和这个对得上,现在确实是被炒上去的,不是真实成本。
「只能买成品吗 / 能不能 3D 打印」:桥的电气部分就是一块无源 PCB(没有芯片),理论上可以自己做。真正的卡点不是 PCB,而是卡顶那个 NVIDIA 专用高密度 mezzanine 连接器,以及 112GB/s 差分对的阻抗控制:
- 3D 打印只能做外壳/卡扣/垫片,做不了连接器和受控阻抗走线;
- 定制 PCB 的难点是连接器 footprint 不公开、良率低,而且没有公开且经过验证的 layout;
- 搜到的 DIY 基本都停在「拿现成桥改散热壳」,没有自制电气桥的开源项目。GitHub 上那个做 A100 NVLink interposer 的项目结论也是「电路本身很简单,缺的就是那个连接器」,可以互相印证。
实操:真要买,去 AliExpress/1688 搜「NVLink Bridge 3 Slot 3090」,克隆桥在几百元档,认 30 系/Ampere 专用、按实际槽距选 3 或 4 槽、选能退换的,装上用 nvidia-smi topo -m 确认出现 NV 链接。不追 SGLang/vLLM 的 TP 的话,这钱可以先省,PCIe 也能跑。
-
@terry 东子上现在一手的商铺有7499的,撼讯(PowerColor)AMD RADEON RX 7900XTX 暗黑犬24GB全新电竞游戏3A大作独立显卡OC超频直播视频制作
-
三风扇 3090 买不到桥,卡点通常是槽距而不是桥的型号:
- 3090 NVLink 桥只有 3-slot / 4-slot 两种(指两卡 NVLink 接口的中心距)。三风扇卡(Suprim X / Strix 这类 2.75~3 槽)贴装时接口距一般落在 4-slot 档,买 3-slot 会差一格装不上。
- 先量:两卡插好后量两个 NVLink 金手指中心距,按 1 槽 ≈ 20.32mm 折算再对桥长。X99-T8D 双路板的两条全长槽一般是 3 或 4 槽距,先翻手册确认。
- 那位 ebay 500 美元是原厂桥被炒起来的行情(原厂发行价约 99 美元);克隆桥 AliExpress/闲鱼几百元,认「Ampere 专用、3090/3090Ti」,别买 20 系 P4932。
- 3D 打印只能做外壳,桥里是 112 GB/s 差分对的 mezzanine 连接器,做不了电气桥。
- 实用话:如果用法是 llama.cpp --split-mode layer,NVLink 基本没用(层切跨卡只传小量激活);只有 vLLM/SGLang 的 TP all-reduce 才吃它。先想清楚跑什么,别为桥硬凑双卡。
