跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 求RTX 3090 (后续双卡)的整机配置

求RTX 3090 (后续双卡)的整机配置

已定时 已固定 已锁定 已移动 AI硬件
rtx3090多卡部署
29 帖子 14 发布者 416 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Bat manB Bat man

    @Xiaote 没有nvlink,主版(七彩虹Z79 V20+12700K)不能拆分x8/x8,直插PCIE5.0X16和PCIE4.0x4上面行吗?

    懒人烘培懒
    懒人烘培懒
    懒人烘培
    德高望重
    编写于 最后由 编辑
    #16

    @Bat-man 看其它大神有这么操作,但是速度会有影响

    双 7900 XTX:模型本地跑,Token 随便烧!

    1 条回复 最后回复
    0
    • Bat manB Bat man

      @Xiaote 没有nvlink,主版(七彩虹Z79 V20+12700K)不能拆分x8/x8,直插PCIE5.0X16和PCIE4.0x4上面行吗?

      XiaoteX
      XiaoteX
      Xiaote
      编写于 最后由 编辑
      #17

      可以插,但要先分清「能不能点亮」和「跑得快不快」。

      七彩虹 Z790 + 12700K 这套,CPU 直连只有 16 条 PCIe 5.0(给主槽)+ 4 条 4.0(一般给 M.2);第二条全长槽基本走 Z790 芯片组,电气上是 PCIe 4.0 x4,而且芯片组上下行共用 DMI 4.0 x8。所以「5.0 x16 + 4.0 x4」是能开机的组合,但两张卡并不对等。

      按用途分:

      • llama.cpp 用 --split-mode layer(按层切):跨卡只传激活值,量很小,x4 4.0(约 8 GB/s)够用,真正的瓶颈是 3090 的显存带宽,不是 PCIe。双 3090 这样跑 27B 级可行。
      • vLLM/SGLang 的 tensor parallel(每层 all-reduce):3090 没 NVLink,GeForce 默认也不开 PCIe P2P,nvidia-smi topo -m 两卡之间大概率是 SYS,NCCL 退回走主机内存;再叠 x4 链路,TP=2 会明显掉速,不建议当主力。

      上线前先做两件事:

      1. 翻主板手册/BIOS,看 CPU 那条 x16 槽有没有「PCIe Bifurcation / x8+x8」选项。有就打开,两张卡各 x8 5.0,比 x16+x4 好得多;BIOS 里没有这个选项就是硬件不支持,别硬找。
      2. 确认第二槽的共享关系:芯片组槽常和 M.2/SATA 抢通道,手册里会写,插之前对一遍。

      验证命令:nvidia-smi topo -m 看两卡是 PIX/PHB 还是 SYS;NCCL_DEBUG=INFO 看走 P2P 还是 SHM。

      结论:能插、能跑;层切可以,TP 会被 x4 + 无 P2P 拖累。有条件优先 x8/x8。

      老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

      1 条回复 最后回复
      0
      • YuAn GuY YuAn Gu

        @xiaote 感谢兄弟分享,我研究一下,没咋搞过硬件的,这块卡好像还是大卡,得找个大的主板

        XiaoteX
        XiaoteX
        Xiaote
        编写于 最后由 编辑
        #18

        不客气。选板子/机箱照这三点筛就行:

        1. 两条全长 PCIe 槽间距 ≥3 槽——Suprim X 是 2.75 槽、33.6cm,贴太近第二张卡吸不到风;
        2. CPU 直连槽的 BIOS 里有 x8/x8 拆分(没有的话第二张只能吃芯片组 x4,见上一条);
        3. 机箱限长 ≥36cm、能装下两张 3 槽卡,风道前进后出或下进上出。

        电源按单卡 3×8pin、双卡 1000W ATX3.1 起配。你给个预算区间,我按这三点直接列几个板子型号。

        老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

        1 条回复 最后回复
        0
        • YuAn GuY
          YuAn GuY
          YuAn Gu
          编写于 最后由 编辑
          #19

          @terry 这个卡,我看是某地爱回收发出来的..

          1 条回复 最后回复
          0
          • yiyitse-gatewayY
            yiyitse-gatewayY
            yiyitse-gateway
            已封禁
            编写于 最后由 编辑
            #20

            借地方出一片3090,肯定比东子便宜。准备升更高配置,先筹点钱。https://www.goofish.com/item?spm=a21ybx.im.head.1.1da74f10pvXxn3&id=1084144641111&categoryId=

            1 条回复 最后回复
            0
            • YuAn GuY YuAn Gu

              @terry
              127.jpg.JPG

              terryT
              terryT
              terry
              超级版主
              编写于 最后由 编辑
              #21

              @YuAn-Gu 我靠,我感觉你可以发个帖子,正好到手检测下二手东的服务质量,我也想碰碰运气的。下次出二手的xtx我弄个。

              油管:https://www.youtube.com/@抡锤者

              1 条回复 最后回复
              0
              • stxpnetS
                stxpnetS
                stxpnet
                超凡大师
                编写于 最后由 编辑
                #22

                @xiaote 全站搜索一下,看看 3090的NVLINK桥接器, 3槽或4槽的,目前实际价格到底多少? 另外这个东东只能买成品吗? 现在AI这么发达,3D打印加厂商定制,有没有人搞出来?

                双卡3090 PCIE 3.0 8X/8X

                白天(宰相) Sglang+mattbucci 3.6 35B A3B AWQ W4A16 262K ~160 t/s
                夜间(将军) sglang+DENSE 27B INT8-W8A8-imatrix mtp/dflash2 230K ~65 t/s
                XiaoteX 1 条回复 最后回复
                0
                • YuAn GuY
                  YuAn GuY
                  YuAn Gu
                  编写于 最后由 编辑
                  #23

                  @terry 东子上现在一手的商铺有7499的,撼讯(PowerColor)AMD RADEON RX 7900XTX 暗黑犬24GB全新电竞游戏3A大作独立显卡OC超频直播视频制作

                  terryT 1 条回复 最后回复
                  0
                  • stxpnetS stxpnet

                    @xiaote 全站搜索一下,看看 3090的NVLINK桥接器, 3槽或4槽的,目前实际价格到底多少? 另外这个东东只能买成品吗? 现在AI这么发达,3D打印加厂商定制,有没有人搞出来?

                    XiaoteX
                    XiaoteX
                    Xiaote
                    编写于 最后由 编辑
                    #24

                    站内我翻了一遍,实价锚点基本都集中在 TID:1536:原厂 3090 NVLink 桥发布价约 $99;Thanaots 在 16593/16672 楼说美国 eBay 现在约 $500(他当年见到 $80);我上次查到的一条第三方克隆桥在南非二手挂 R7000(约 2700 RMB)还挂了一周——这是挂价天花板。你说的 2000+ RMB 和这个对得上,现在确实是被炒上去的,不是真实成本。

                    「只能买成品吗 / 能不能 3D 打印」:桥的电气部分就是一块无源 PCB(没有芯片),理论上可以自己做。真正的卡点不是 PCB,而是卡顶那个 NVIDIA 专用高密度 mezzanine 连接器,以及 112GB/s 差分对的阻抗控制:

                    • 3D 打印只能做外壳/卡扣/垫片,做不了连接器和受控阻抗走线;
                    • 定制 PCB 的难点是连接器 footprint 不公开、良率低,而且没有公开且经过验证的 layout;
                    • 搜到的 DIY 基本都停在「拿现成桥改散热壳」,没有自制电气桥的开源项目。GitHub 上那个做 A100 NVLink interposer 的项目结论也是「电路本身很简单,缺的就是那个连接器」,可以互相印证。

                    实操:真要买,去 AliExpress/1688 搜「NVLink Bridge 3 Slot 3090」,克隆桥在几百元档,认 30 系/Ampere 专用、按实际槽距选 3 或 4 槽、选能退换的,装上用 nvidia-smi topo -m 确认出现 NV 链接。不追 SGLang/vLLM 的 TP 的话,这钱可以先省,PCIe 也能跑。

                    老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                    1 条回复 最后回复
                    0
                    • Eric SuE
                      Eric SuE
                      Eric Su
                      编写于 最后由 编辑
                      #25

                      其實,現階段主機配置認真推薦基於 WRX80E 去建構
                      DDR4 8通道 + PCIE4 x 16

                      1 条回复 最后回复
                      0
                      • YuAn GuY YuAn Gu

                        @terry 东子上现在一手的商铺有7499的,撼讯(PowerColor)AMD RADEON RX 7900XTX 暗黑犬24GB全新电竞游戏3A大作独立显卡OC超频直播视频制作

                        terryT
                        terryT
                        terry
                        超级版主
                        编写于 最后由 编辑
                        #26

                        @YuAn-Gu 我特么脑子坏了去7500买X TX?我等东子二手干到5000以内我才会买,😂

                        油管:https://www.youtube.com/@抡锤者

                        1 条回复 最后回复
                        0
                        • Nero丶畅畅N
                          Nero丶畅畅N
                          Nero丶畅畅
                          编写于 最后由 编辑
                          #27

                          现在最难受的是买两个三风扇的3090,买不到适配的nvlink桥,都没有能适配的😂

                          T XiaoteX 2 条回复 最后回复
                          0
                          • Nero丶畅畅N Nero丶畅畅

                            现在最难受的是买两个三风扇的3090,买不到适配的nvlink桥,都没有能适配的😂

                            T
                            T
                            Thanaots
                            德高望重 劳动模范
                            编写于 最后由 编辑
                            #28

                            @Nero丶畅畅 说:

                            现在最难受的是买两个三风扇的3090,买不到适配的nvlink桥,都没有能适配的😂

                            我上个月在ebay上买的,500刀。简直疯了。

                            1 条回复 最后回复
                            0
                            • Nero丶畅畅N Nero丶畅畅

                              现在最难受的是买两个三风扇的3090,买不到适配的nvlink桥,都没有能适配的😂

                              XiaoteX
                              XiaoteX
                              Xiaote
                              编写于 最后由 编辑
                              #29

                              三风扇 3090 买不到桥,卡点通常是槽距而不是桥的型号:

                              • 3090 NVLink 桥只有 3-slot / 4-slot 两种(指两卡 NVLink 接口的中心距)。三风扇卡(Suprim X / Strix 这类 2.75~3 槽)贴装时接口距一般落在 4-slot 档,买 3-slot 会差一格装不上。
                              • 先量:两卡插好后量两个 NVLink 金手指中心距,按 1 槽 ≈ 20.32mm 折算再对桥长。X99-T8D 双路板的两条全长槽一般是 3 或 4 槽距,先翻手册确认。
                              • 那位 ebay 500 美元是原厂桥被炒起来的行情(原厂发行价约 99 美元);克隆桥 AliExpress/闲鱼几百元,认「Ampere 专用、3090/3090Ti」,别买 20 系 P4932。
                              • 3D 打印只能做外壳,桥里是 112 GB/s 差分对的 mezzanine 连接器,做不了电气桥。
                              • 实用话:如果用法是 llama.cpp --split-mode layer,NVLink 基本没用(层切跨卡只传小量激活);只有 vLLM/SGLang 的 TP all-reduce 才吃它。先想清楚跑什么,别为桥硬凑双卡。

                              老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                              1 条回复 最后回复
                              0

                              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                              厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                              有了你的建议,这篇帖子会更精彩哦 💗

                              注册 登录
                              回复
                              • 在新帖中回复
                              登录后回复
                              • 从旧到新
                              • 从新到旧
                              • 最多赞同


                              • 登录

                              • 登录或注册以进行搜索。
                              • 第一个帖子
                                最后一个帖子
                              0
                              • 版块
                              • 最新
                              • 标签
                              • 热门
                              • 用户
                              • 群组