跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 魔改SGLANG支持7900XTX 双卡TP TTFT <1s 平均TG 80-100! 4并发TG200/sec

魔改SGLANG支持7900XTX 双卡TP TTFT <1s 平均TG 80-100! 4并发TG200/sec

已定时 已固定 已锁定 已移动 精华 热议 AI硬件
7900xtxsg-lang多卡部署
106 帖子 36 发布者 5.9k 浏览 9 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 韦 韦春花

    @Geekyang X99主板的PCI插槽设定死了,双7900xtx必须第一和第二(三)槽才能X16+X16(E5‑26xx v3/v4的 CPU 要40 条 PCIe 通道,才能让前两条物理插槽跑满 PCIe3.0 x16 + x16(16+16=32 条,剩余 8 条留给 M.2 / 网卡等外设)。
    要SGLang或者Vllm,PCIe3.0X8有点艰难,所有矿板基本排除,还剩下4个办法:
    1.7900xtx换水冷,我试过了,改善不大,技术犬的水冷直接用CPU水冷改的,厚度只少了一槽位,带显存一体水冷据说只有一槽,得空试试;

    7900-2.jpg

    2.显卡延长线从第二槽引出,竖装支架固定在机箱下部(电源上面位置);电源上这块卡示意,高度接近,两槽多间距进风还行;

    7900-1.jpg

    3.超微和华硕有些X99服务器主板PCI插槽更多还有PLX 桥接芯片,不一定必须第一+第二槽、第一+第三槽,也可以运行在x16 + x16,这样就避开了显卡延长线损耗,只要机箱选高一点就成。但这些X99服务器主板价格感人,不符合咱屌丝范儿哈;
    e475bfd7-13f3-4215-8a60-7dc69fd00b2b-image.jpeg

    4.矿架,没有矿架解决不了的安装问题😊

    terryT
    terryT
    terry
    超级版主
    编写于 最后由 编辑
    #95

    @韦春花 非常好的分享

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    0
    • ,Ben LeeB Ben Lee 引用了 此主题
    • GeekyangG Geekyang

      @terry 这个双7900XTX 主板的尺寸,我是没有找到

      947d6dc5-402e-4db7-ad68-a747d3613269-image.jpeg

      X99 PCIE 之间的空隙只有50mm, 不管双路还是单路,都不可能双卡。主板是个大问题。

      建议把主板和电源单独做一个版块。我现在是找不到可以特别合适双卡的主板。

      你
      你
      你的名字我的名字都是一样的
      编写于 最后由 编辑
      #96

      @Geekyang 如果用讯景等2.9槽的显卡,x99/x299 d4很多主板都可以双卡。如果用矿架,还可以4卡。另外pci3x16延长线价格也不贵。普通x99 d3 支持双pci3x16的主板用延长线也行。不过相对来说,能用机箱肯定也是方便一点。用矿架,还是要有较大的空间才方便。

      1 条回复 最后回复
      0
      • Z znx

        感谢楼主分享 在您帖子的感召下,我已经准备购入第二张显卡了 等过两天买好装好也跑跑多并发感觉一下
        我的配置是精粤X99D3 看看显卡在PCIE 3.0 16x 下会受到多大的影响

        farmer nodeF
        farmer nodeF
        farmer node
        德高望重 劳动模范
        编写于 最后由 编辑
        #97

        @znx 先别急着买,你这个板子可能不支持P2P ,TP2 跑不了,跑起来也非常慢,你先弄清楚,帖子你有其他人测过,我之前好像就是这个板子,我换了 EYPC 的平台才跑起来的。

        1 条回复 最后回复
        1
        • Z
          Z
          znx
          编写于 最后由 编辑
          #98

          我已经购入第二张 根据各位大神的帖子已经在本地的卡间带宽跑到10g,tp2已经没问题了 这两天在弄散热的问题 要不确实2张一起发热 几分钟必崩

          1 条回复 最后回复
          0
          • kos orK
            kos orK
            kos or
            超凡大师
            编写于 最后由 kos or 编辑
            #99

            昨天 Agent 把我的 7900 XTX 解開枷鎖功耗飆升到 390W, 趕快鎖回305W, 家用風扇開到最大 伺候這些顯示卡老爺們 降降溫

            坤 1 条回复 最后回复
            0
            • kos orK kos or

              昨天 Agent 把我的 7900 XTX 解開枷鎖功耗飆升到 390W, 趕快鎖回305W, 家用風扇開到最大 伺候這些顯示卡老爺們 降降溫

              坤
              坤
              坤坤
              德高望重 劳动模范
              编写于 最后由 编辑
              #100

              @kos-or 我直接用普通风扇怼着两张卡直吹

              kos orK 1 条回复 最后回复
              0
              • 坤 坤坤

                @kos-or 我直接用普通风扇怼着两张卡直吹

                kos orK
                kos orK
                kos or
                超凡大师
                编写于 最后由 编辑
                #101

                @坤坤

                風扇便宜, 顯卡越來越貴,
                顯卡溫度不壓低, 24/7 長期滿載高溫運轉 容易壞掉 損失重
                風扇壞了 直接再買一個就行

                坤 2 条回复 最后回复
                0
                • kos orK kos or

                  @坤坤

                  風扇便宜, 顯卡越來越貴,
                  顯卡溫度不壓低, 24/7 長期滿載高溫運轉 容易壞掉 損失重
                  風扇壞了 直接再買一個就行

                  坤
                  坤
                  坤坤
                  德高望重 劳动模范
                  编写于 最后由 编辑
                  #102

                  @kos-or 是呀,二十多的那种风扇怼着吹,然后温度的话稳在80左右,核心温度差不多90

                  kos orK 1 条回复 最后回复
                  0
                  • kos orK kos or

                    @坤坤

                    風扇便宜, 顯卡越來越貴,
                    顯卡溫度不壓低, 24/7 長期滿載高溫運轉 容易壞掉 損失重
                    風扇壞了 直接再買一個就行

                    坤
                    坤
                    坤坤
                    德高望重 劳动模范
                    编写于 最后由 编辑
                    #103

                    @kos-or 模型不推理的话甚至温度降到35度左右风扇都不带转的,之前不知道还以为显卡坏了怎么风扇不转了

                    1 条回复 最后回复
                    0
                    • 坤 坤坤

                      @kos-or 是呀,二十多的那种风扇怼着吹,然后温度的话稳在80左右,核心温度差不多90

                      kos orK
                      kos orK
                      kos or
                      超凡大师
                      编写于 最后由 编辑
                      #104

                      @坤坤 said:

                      然后温度的话稳在80左右,核心温度差不多90

                      長期90度算高嗎? 我想讓顯卡一天運作20小時, 溫度希望能壓在80度左右

                      這對RX7900XTX 是個壓力
                      對 RTX-5070 Ti 來說平均溫度是 65以內, 不超過70,
                      所以我比較擔心RX7900XTX 長期連續運轉的能力

                      张光璞张 1 条回复 最后回复
                      0
                      • kos orK kos or

                        @坤坤 said:

                        然后温度的话稳在80左右,核心温度差不多90

                        長期90度算高嗎? 我想讓顯卡一天運作20小時, 溫度希望能壓在80度左右

                        這對RX7900XTX 是個壓力
                        對 RTX-5070 Ti 來說平均溫度是 65以內, 不超過70,
                        所以我比較擔心RX7900XTX 長期連續運轉的能力

                        张光璞张
                        张光璞张
                        张光璞
                        技术大牛 劳动模范
                        编写于 最后由 编辑
                        #105

                        @kos-or 说:

                        @坤坤 said:

                        然后温度的话稳在80左右,核心温度差不多90

                        長期90度算高嗎? 我想讓顯卡一天運作20小時, 溫度希望能壓在80度左右

                        這對RX7900XTX 是個壓力
                        對 RTX-5070 Ti 來說平均溫度是 65以內, 不超過70,
                        所以我比較擔心RX7900XTX 長期連續運轉的能力

                        建议降压,锁功率

                        1 条回复 最后回复
                        0
                        • XiaoteX
                          XiaoteX
                          Xiaote
                          编写于 最后由 编辑
                          #106

                          ⭐ 本帖点赞数达到自动加精门槛,已设为精华,作者 +5 积分奖励,希望再接再厉!

                          奖励凭证:精华 +5 分 · 编号 f1532-2645-1(系统自动发放,只发一次)

                          老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                          1 条回复 最后回复
                          0
                          • ,Ben LeeB Ben Lee 引用了 此主题

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组