跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 求助!!!请大神帮帮忙,看下这套四卡服务配置是否合理,能否最大发挥出性能?请大神们多提建议,小弟非常感谢!

求助!!!请大神帮帮忙,看下这套四卡服务配置是否合理,能否最大发挥出性能?请大神们多提建议,小弟非常感谢!

已定时 已固定 已锁定 已移动 AI硬件
14 帖子 6 发布者 77 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Tony WangT 在线
    Tony WangT 在线
    Tony Wang
    编写于 最后由 编辑
    #5

    他是 64*4 , 肯定够了. 硬盘小了, 不过估计它后面有SAN.

    挺豪华的, 不过加点儿钱, 换两张 Pro 6000 是不是更好, 有扩展空间, 性能还有保证, 毕竟 4090 48G 魔改, 我总觉得质量上会有隐患.

    已经这么贵了, 肯定要保护投资. 建议直接上 Pro 6000 X2.

    Harvey ZhuH 1 条回复 最后回复
    0
    • Tony WangT Tony Wang

      他是 64*4 , 肯定够了. 硬盘小了, 不过估计它后面有SAN.

      挺豪华的, 不过加点儿钱, 换两张 Pro 6000 是不是更好, 有扩展空间, 性能还有保证, 毕竟 4090 48G 魔改, 我总觉得质量上会有隐患.

      已经这么贵了, 肯定要保护投资. 建议直接上 Pro 6000 X2.

      Harvey ZhuH 离线
      Harvey ZhuH 离线
      Harvey Zhu
      编写于 最后由 编辑
      #6

      @Tony-Wang 感谢老哥的建议,其他部分配置适配度以及性价比方面您看还有优化空间吗?

      Tony WangT 3 条回复 最后回复
      0
      • Harvey ZhuH Harvey Zhu

        @Tony-Wang 感谢老哥的建议,其他部分配置适配度以及性价比方面您看还有优化空间吗?

        Tony WangT 在线
        Tony WangT 在线
        Tony Wang
        编写于 最后由 编辑
        #7

        @Harvey-Zhu

        没有了, 我也很久没碰过硬件了. 只是从投资保护的角度提出的.

        另外, 你25G网卡 是为了连接 IP SAN吗? 还是要组集群?

        我感觉你 1-2 个25G就够了, 连接你的 SAN. 4口有点儿浪费, 好像没有什么其他用途.

        1 条回复 最后回复
        0
        • Harvey ZhuH Harvey Zhu

          @Tony-Wang 感谢老哥的建议,其他部分配置适配度以及性价比方面您看还有优化空间吗?

          Tony WangT 在线
          Tony WangT 在线
          Tony Wang
          编写于 最后由 编辑
          #8

          @Harvey-Zhu

          另外, 我查了一下你的CPU和主板, 是支持8条独立的内存通道, 所以应该插满8条. 比如32GX8, 这样才能满血利用内存带宽.

          1 条回复 最后回复
          0
          • Harvey ZhuH Harvey Zhu

            @Tony-Wang 感谢老哥的建议,其他部分配置适配度以及性价比方面您看还有优化空间吗?

            Tony WangT 在线
            Tony WangT 在线
            Tony Wang
            编写于 最后由 Tony Wang 编辑
            #9

            @Harvey-Zhu

            另外, 我看了一下这张 超微 H12SSL 的布局, 它确实有5个 pcie 4.0X16的槽位, 但1,2,3 槽位紧挨着, 意味着2槽不能用.

            那你的25G 4口网卡插哪里? 它需要一个满 4.0X16的槽位, 只能用转接线吊装了.

            而且, 4张涡轮卡紧挨着, 你的机箱风冷要确认一下, 是否足够强.

            H12SSL-i_spec.jpg

            Harvey ZhuH 1 条回复 最后回复
            1
            • Tony WangT Tony Wang

              @Harvey-Zhu

              另外, 我看了一下这张 超微 H12SSL 的布局, 它确实有5个 pcie 4.0X16的槽位, 但1,2,3 槽位紧挨着, 意味着2槽不能用.

              那你的25G 4口网卡插哪里? 它需要一个满 4.0X16的槽位, 只能用转接线吊装了.

              而且, 4张涡轮卡紧挨着, 你的机箱风冷要确认一下, 是否足够强.

              H12SSL-i_spec.jpg

              Harvey ZhuH 离线
              Harvey ZhuH 离线
              Harvey Zhu
              编写于 最后由 编辑
              #10

              @Tony-Wang 好的了解,多谢您的指导,万分感谢!!

              1 条回复 最后回复
              0
              • kos orK kos or

                我是多卡小白, 最近看了一個Youtuber 的推薦 訂了一套 Gigabyte MC62-G40 (6 x PCIe4.0 x 16 lines @ 32 GB/s each) + AMD Threadripper 3945WX (12C/24T, 280W) , CPU的選擇我後悔了 只考慮到推論需求 沒考慮到代理人運用場景, 看未來是否需要改用 AMD Threadripper 3955WX (16C/32T, 280W)

                Harvey ZhuH 离线
                Harvey ZhuH 离线
                Harvey Zhu
                编写于 最后由 编辑
                #11

                @kos-or 好的,非常感谢!

                1 条回复 最后回复
                0
                • CS6C 在线
                  CS6C 在线
                  CS6
                  编写于 最后由 编辑
                  #12

                  你有錢還是直上 PRO 6000吧?也比較保值
                  AI推理跟服務端場景不一樣,你都是本地需求感覺沒必要?
                  我可能會選二手服務器(只要有 pcie 4.0 8/16 *4 以上就可以了,CPU + MB 都是為了服務於GPU

                  1 条回复 最后回复
                  0
                  • sirwangS 离线
                    sirwangS 离线
                    sirwang
                    编写于 最后由 编辑
                    #13

                    如果只是你自己用,不是多人用,那内存加到128,6个人以内,加到256G。 显卡换 RTXPRO6000。

                    1 条回复 最后回复
                    0
                    • CS6C 在线
                      CS6C 在线
                      CS6
                      编写于 最后由 编辑
                      #14

                      3000w 的電源也需要機房能支援吧? 如果放家裡不太安全,建議找個電工來看看

                      1 条回复 最后回复
                      1

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组