跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 【直播】4卡R9700从采购到调试

【直播】4卡R9700从采购到调试

已定时 已固定 已锁定 已移动 热议 AI硬件
r9700多卡部署
125 帖子 15 发布者 3.2k 浏览 4 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • A
    A
    applejuice
    技术大牛 劳动模范
    编写于 最后由 applejuice 编辑
    #16

    其实我一直很好奇pcie5 跑p2p 跟pcie4/3 跑 p2p 会差多少?
    如果你入手了刚好可以跟网友分享的对比下了

    据我跟ai 了解
    2张卡
    如果单人用 pcie 4/5 decode prefill 几乎没影响
    多人使用decode 也大概在少过10% 的差距 这样

    4张卡
    Decode 多人使用大概10-15%
    Prefill 单人 多人都在10-15%

    我感觉2张卡pcie4 完全能够个人玩家是用
    pcie3 对比pcie5 就差点点 2 张卡都差10%
    4张卡并行 不是普通玩家了 机箱散热都是另一个等级的跳跃

    当然以上讲着 r9700 或是 rtx5 series支持pcie5的显卡

    Kevin HyderichK 1 条回复 最后回复
    0
    • kos orK kos or

      @Name-Error said:

      也有玩家开始自制ddr5内存条。同样是1万人民币,我觉得还是买显卡好。

      按照你目前的高階平台規格預算
      平台降規格 再小補一點預算 幾乎可以 8卡 R9700 => 8 x 32G VRAM =256G VRAM
      另一種預算內選項是四台 DGX Spark 128G = 512G 統一記憶體

      我用的主板是MC62-G40 , 八通道DDR4-2400 ECC 都插滿 理論速度是153 GB/s

      Name ErrorN
      Name ErrorN
      Name Error
      德高望重 劳动模范
      编写于 最后由 Name Error 编辑
      #17

      @kos-or 記憶體頻寬太低了,而且 DGX Spark 目前一台要 35,000 人民幣,我是不太看好。

      其實我確實有打算這樣買:

      • 4 張 7900 XTX、2 張 R9700,總共 160 GB
      • 2 張 7900 XTX、4 張 R9700,總共 176 GB

      7900 XTX 只要 5,500 人民幣就能入手,還是很划算。

      等記憶體降到正常價格,我再加記憶體;不然就一路堆顯示卡,先不考慮電費。

      參考資料:
      https://modelrigs.com/hardware

      kos orK J 2 条回复 最后回复
      1
      • Name ErrorN Name Error

        @kos-or 記憶體頻寬太低了,而且 DGX Spark 目前一台要 35,000 人民幣,我是不太看好。

        其實我確實有打算這樣買:

        • 4 張 7900 XTX、2 張 R9700,總共 160 GB
        • 2 張 7900 XTX、4 張 R9700,總共 176 GB

        7900 XTX 只要 5,500 人民幣就能入手,還是很划算。

        等記憶體降到正常價格,我再加記憶體;不然就一路堆顯示卡,先不考慮電費。

        參考資料:
        https://modelrigs.com/hardware

        kos orK
        kos orK
        kos or
        超凡大师
        编写于 最后由 编辑
        #18

        @Name-Error

        這樣也行 多種雙顯卡 跑起來挺有趣的

        1 条回复 最后回复
        0
        • T
          T
          Thanaots
          德高望重 劳动模范
          编写于 最后由 编辑
          #19

          去年买wrx80+5955wx+256GB ddr 4 ECC,总共才花了不到2000刀。今年想知道,现在ddr5需要多少钱

          Name ErrorN kos orK 2 条回复 最后回复
          0
          • T Thanaots

            去年买wrx80+5955wx+256GB ddr 4 ECC,总共才花了不到2000刀。今年想知道,现在ddr5需要多少钱

            Name ErrorN
            Name ErrorN
            Name Error
            德高望重 劳动模范
            编写于 最后由 编辑
            #20

            @Thanaots DDR5 ECC RDIMM 16G 【¥3500】

            32G ≈ ¥7000
            64G ≈ ¥14000

            大概这样

            T 1 条回复 最后回复
            0
            • Name ErrorN Name Error

              @terry 我绝对是 华南金牌 主板的粉丝,家里至还放了两张挖坑时候的华南 x99。

              怎么说呢,目前这个方案核心考量是 pcie5.0。
              考虑到当前硬件市场的不确定性,我想留足测试的空间。

              目前还在准备采购 v100,3090等其他类型的显卡,尝试混插。

              这张 WRX90E 主板可以支持 6 个 pcie5.0x16 通信,绝对是最佳选择。

              既能满足测试需要,也能满足后期的扩展需求。
              有测试成果肯定发出来。

              terryT
              terryT
              terry
              超级版主
              编写于 最后由 编辑
              #21

              @Name-Error 5.0跑4卡是对的,4张卡的钱都花了,去省主板和内存的钱,确实没必要。

              油管:https://www.youtube.com/@抡锤者

              1 条回复 最后回复
              0
              • Name ErrorN Name Error

                @Thanaots DDR5 ECC RDIMM 16G 【¥3500】

                32G ≈ ¥7000
                64G ≈ ¥14000

                大概这样

                T
                T
                Thanaots
                德高望重 劳动模范
                编写于 最后由 编辑
                #22

                @Name-Error 说:

                @Thanaots DDR5 ECC RDIMM 16G 【¥3500】

                32G ≈ ¥7000
                64G ≈ ¥14000

                大概这样

                真的好贵。这还不到128gb。你4卡至少需要128GB+2000w电源

                1 条回复 最后回复
                1
                • T Thanaots

                  去年买wrx80+5955wx+256GB ddr 4 ECC,总共才花了不到2000刀。今年想知道,现在ddr5需要多少钱

                  kos orK
                  kos orK
                  kos or
                  超凡大师
                  编写于 最后由 kos or 编辑
                  #23

                  @Thanaots said:

                  256GB ddr 4 ECC

                  這價格應該翻了1~3倍以上了
                  美國網友的 DDR4-2999 ECC 翻了60倍, 他老闆當時便宜賣他的 1G 才US$0.1

                  T 1 条回复 最后回复
                  0
                  • kos orK kos or

                    @Thanaots said:

                    256GB ddr 4 ECC

                    這價格應該翻了1~3倍以上了
                    美國網友的 DDR4-2999 ECC 翻了60倍, 他老闆當時便宜賣他的 1G 才US$0.1

                    T
                    T
                    Thanaots
                    德高望重 劳动模范
                    编写于 最后由 编辑
                    #24

                    @kos-or 说:

                    @Thanaots said:

                    256GB ddr 4 ECC

                    這價格應該翻了1~3倍以上了

                    真疯狂。
                    我手里还有1TB的ddr 4 ECC。但是我真不想卖,因为确实用得到。
                    但是ddr 5,我感觉没有太大必要的,内存的大小,比速度更重要。

                    kos orK 1 条回复 最后回复
                    1
                    • T
                      T
                      Thanaots
                      德高望重 劳动模范
                      编写于 最后由 编辑
                      #25

                      13141_compressed.jpg
                      这是我的wrx的平台。
                      真的需要很大的机箱,因为需要能有地方放得下两个psu。要保证空气流通性。

                      1 条回复 最后回复
                      0
                      • T Thanaots

                        @kos-or 说:

                        @Thanaots said:

                        256GB ddr 4 ECC

                        這價格應該翻了1~3倍以上了

                        真疯狂。
                        我手里还有1TB的ddr 4 ECC。但是我真不想卖,因为确实用得到。
                        但是ddr 5,我感觉没有太大必要的,内存的大小,比速度更重要。

                        kos orK
                        kos orK
                        kos or
                        超凡大师
                        编写于 最后由 编辑
                        #26

                        @Thanaots said:

                        我手里还有1TB的ddr 4 ECC。但是我真不想卖,因为确实用得到。

                        頻率多少的呢? 目前最貴的就是 DDR4-3200 ECC , 最便宜的是 DDR4-2133 ECC

                        你看美光的股價跟目前 Samsung, Hynix 的產能70%(before 2030) 已經被CSP, Meta, Nvidia 鎖住了, CXMT 暫時不會dump破壞價格, 就不要賣了DDR了, 市場預估還會再漲到至少2028

                        以這態勢2028或許只是保守估計?

                        T 1 条回复 最后回复
                        0
                        • kos orK kos or

                          @Thanaots said:

                          我手里还有1TB的ddr 4 ECC。但是我真不想卖,因为确实用得到。

                          頻率多少的呢? 目前最貴的就是 DDR4-3200 ECC , 最便宜的是 DDR4-2133 ECC

                          你看美光的股價跟目前 Samsung, Hynix 的產能70%(before 2030) 已經被CSP, Meta, Nvidia 鎖住了, CXMT 暫時不會dump破壞價格, 就不要賣了DDR了, 市場預估還會再漲到至少2028

                          以這態勢2028或許只是保守估計?

                          T
                          T
                          Thanaots
                          德高望重 劳动模范
                          编写于 最后由 编辑
                          #27

                          @kos-or 说:

                          @Thanaots said:

                          我手里还有1TB的ddr 4 ECC。但是我真不想卖,因为确实用得到。

                          頻率多少的呢? 目前最貴的就是 DDR4-3200 ECC , 最便宜的是 DDR4-2133 ECC

                          你看美光的股價跟目前 Samsung, Hynix 的產能70%(before 2030) 已經被CSP, Meta, Nvidia 鎖住了, CXMT 暫時不會dump破壞價格, 就不要賣了DDR了, 市場預估還會再漲到至少2028

                          以這態勢2028或許只是保守估計?

                          ddr 4 2666,应该是的。当时直接一步到位,买了1TB的。

                          kos orK 1 条回复 最后回复
                          1
                          • T Thanaots

                            @kos-or 说:

                            @Thanaots said:

                            我手里还有1TB的ddr 4 ECC。但是我真不想卖,因为确实用得到。

                            頻率多少的呢? 目前最貴的就是 DDR4-3200 ECC , 最便宜的是 DDR4-2133 ECC

                            你看美光的股價跟目前 Samsung, Hynix 的產能70%(before 2030) 已經被CSP, Meta, Nvidia 鎖住了, CXMT 暫時不會dump破壞價格, 就不要賣了DDR了, 市場預估還會再漲到至少2028

                            以這態勢2028或許只是保守估計?

                            ddr 4 2666,应该是的。当时直接一步到位,买了1TB的。

                            kos orK
                            kos orK
                            kos or
                            超凡大师
                            编写于 最后由 编辑
                            #28

                            @Thanaots said:

                            ddr 4 2666,应该是的。当时直接一步到位,买了1TB的。

                            這二手DDR ECC以前非常便宜 但現在是黃金 握住
                            AIDCs 算力中心 胃口太大了 狂吃記憶體

                            T 1 条回复 最后回复
                            0
                            • kos orK kos or

                              @Thanaots said:

                              ddr 4 2666,应该是的。当时直接一步到位,买了1TB的。

                              這二手DDR ECC以前非常便宜 但現在是黃金 握住
                              AIDCs 算力中心 胃口太大了 狂吃記憶體

                              T
                              T
                              Thanaots
                              德高望重 劳动模范
                              编写于 最后由 编辑
                              #29

                              @kos-or 说:

                              @Thanaots said:

                              ddr 4 2666,应该是的。当时直接一步到位,买了1TB的。

                              這二手DDR ECC以前非常便宜 但現在是黃金 握住
                              AIDCs 算力中心 胃口太大了 狂吃記憶體

                              1TB当时是给我p6000 x 2 + 5090x2准备的。结果5090x2卖了。另外一个pro 6000也卖了。因为确实不需要这么多机器。不过我还在考虑这么多内存需不需要,考虑卖一半

                              kos orK 1 条回复 最后回复
                              0
                              • A
                                A
                                applejuice
                                技术大牛 劳动模范
                                编写于 最后由 编辑
                                #30

                                Ddr4 感觉难跌
                                厂家都要停产了

                                1 条回复 最后回复
                                0
                                • T Thanaots

                                  @kos-or 说:

                                  @Thanaots said:

                                  ddr 4 2666,应该是的。当时直接一步到位,买了1TB的。

                                  這二手DDR ECC以前非常便宜 但現在是黃金 握住
                                  AIDCs 算力中心 胃口太大了 狂吃記憶體

                                  1TB当时是给我p6000 x 2 + 5090x2准备的。结果5090x2卖了。另外一个pro 6000也卖了。因为确实不需要这么多机器。不过我还在考虑这么多内存需不需要,考虑卖一半

                                  kos orK
                                  kos orK
                                  kos or
                                  超凡大师
                                  编写于 最后由 编辑
                                  #31

                                  @Thanaots said:

                                  不过我还在考虑这么多内存需不需要,考虑卖一半

                                  這是美國網友的成功銷售紀錄 384GB US$2400 供參考
                                  DDR4 ECC 2933MHz (6x64GB)

                                  1 条回复 最后回复
                                  0
                                  • Name ErrorN
                                    Name ErrorN
                                    Name Error
                                    德高望重 劳动模范
                                    编写于 最后由 Name Error 编辑
                                    #32

                                    @kos-or @applejuice @thanaots 内存价格不是建立在供需关系上的。

                                    我在寻找或自行生产某种转接卡,把多条回收的 DDR4 DIMM 接到 DDR5 时代主机上。

                                    论文案例:
                                    https://aisystemcodesign.github.io/papers/isca26/vistara_camera_ready.pdf
                                    https://patents.google.com/patent/WO2018141174A1/en

                                    我已经联系深圳朋友验证方案可行性。

                                    A 1 条回复 最后回复
                                    1
                                    • Name ErrorN Name Error

                                      @kos-or @applejuice @thanaots 内存价格不是建立在供需关系上的。

                                      我在寻找或自行生产某种转接卡,把多条回收的 DDR4 DIMM 接到 DDR5 时代主机上。

                                      论文案例:
                                      https://aisystemcodesign.github.io/papers/isca26/vistara_camera_ready.pdf
                                      https://patents.google.com/patent/WO2018141174A1/en

                                      我已经联系深圳朋友验证方案可行性。

                                      A
                                      A
                                      applejuice
                                      技术大牛 劳动模范
                                      编写于 最后由 编辑
                                      #33

                                      @Name-Error 我也希望 因为我还缺6条ddr4
                                      现在用着2133
                                      如果可以想换成8条 3200

                                      1 条回复 最后回复
                                      0
                                      • kos orK
                                        kos orK
                                        kos or
                                        超凡大师
                                        编写于 最后由 编辑
                                        #34

                                        能自己整一套CXL嗎?假如有低價入門解決方案就太好了

                                        Name ErrorN 1 条回复 最后回复
                                        0
                                        • kos orK kos or

                                          能自己整一套CXL嗎?假如有低價入門解決方案就太好了

                                          Name ErrorN
                                          Name ErrorN
                                          Name Error
                                          德高望重 劳动模范
                                          编写于 最后由 Name Error 编辑
                                          #35

                                          @kos-or 我认为内存条价格会下降。meta vistara 已经在生产环境应用了cxl技术。

                                          方案 类型 关键规格 可行性/备注 链接
                                          Viking CMM-NVDIMM DDR4 成品 CXL AIC CXL 2.0 Type-3、PCIe Gen5、FHHL、最多 4×DDR4 RDIMM/NVDIMM、2666/2933 MT/s 可直接询价采购;偏军工/航天渠道 产品页 · PDF
                                          Longsys / Mnemonic FORESEE CXL AIC 成品适配卡 8×DDR4 RDIMM、最高 512GB、PCIe 5.0 x16(MCIO)、理论 128GB/s B2B 方案;需确认量产状态与主机兼容性 介绍
                                          元脑(浪潮信息)CXL 内存跨代扩展方案 服务器整机方案 PCIe 5.0 x16、CXL 2.0、单卡 4×DDR4、单机最多 16 条、额外 512GB 已在国内大型互联网客户规模应用;需确认扩展卡是否单卖 官方介绍
                                          Marvell Structera X 2404 主控芯片 4 通道 DDR4、3DPC、最多 12 DIMM、>4TB、CXL 2.0/PCIe 5.0 x16 芯片现货紧缺,需 RFQ;适合大容量扩展卡 CXL 产品页
                                          Montage M88MX5891/5851 主控芯片 PCIe 5.0 x8、CXL 1.1/2.0 Type-3、单 DDR4 通道 2DPC、支持 DDR4/DDR5 RDIMM 国内可询价;单卡 2 条 DDR4,最贴近低成本复用 产品页
                                          Microchip SMC 2000 / PM8702 主控芯片 + EVB DDR4 EVB:2×72-bit 通道、每通道 1 DIMM、CXL 1.1/2.0、PCIe 5.0 有官方参考设计、原理图与布局评审,适合先验证再自研 产品页 · PDF
                                          Astera Labs Leo X / Leo 2 主控芯片 PCIe 6 / CXL 3.x、四路 DDR4/DDR5 面向大客户;DDR4 RDIMM 版本需向原厂确认 产品页
                                          Meta Vistara(参考案例) 生产环境案例 CXL 2.0 Type-3、每 ASIC 2×72-bit DDR4、4×32GB DDR4-2400 证明 DDR4 RDIMM 经 CXL 可用于新一代服务器 论文 PDF

                                          📣 我甚至还有ddr3服务器,插满512g内存,速度虽然慢,但是便宜啊。
                                          📣 内存条存量巨大。cxl方案也在生产中证实了可行性。
                                          📣 决不妥协高价采购!

                                          kos orK 1 条回复 最后回复
                                          1

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组