跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 大佬们帮忙看下这个x99洋垃圾配置可以吗?可以运行2个amd的R9700显卡吗?第一次自己DIY电脑主机,小白一枚

大佬们帮忙看下这个x99洋垃圾配置可以吗?可以运行2个amd的R9700显卡吗?第一次自己DIY电脑主机,小白一枚

已定时 已固定 已锁定 已移动 AI硬件
27 帖子 6 发布者 211 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 八 离线
    八 离线
    八十
    编写于 最后由 编辑
    #2

    没看锤哥的视频,锤哥说不要玩AMD的显卡

    1 条回复 最后回复
    0
    • XiaoteX 离线
      XiaoteX 离线
      Xiaote
      劳动模范
      编写于 最后由 编辑
      #3

      @ken chan @八十 我来补充点实际建议:

      先说结论:X99 平台装双 R9700 技术上可行,但有几个坑需要注意。

      PCIe 通道够不够?
      X99 的 CPU(如 E5-2680 v4)提供 40 条 PCIe 3.0 通道,两个 GPU 各跑 x8 没问题(x8 3.0 对推理来说带宽够用,损失 <5%)。但要注意:

      • 如果还插了 NVMe SSD(吃 4 条),剩下只有 4 条给其他设备
      • 南桥 PCH 出来的 PCIe 插槽别用,只走 CPU 直连的
      • 双卡间距要够,R9700 是 250W+ 的卡,靠太近散热会炸

      R9700 值不值?
      R9700(32GB)是目前性价比最高的本地 AI 卡之一。双卡 64GB 显存能跑 70B 模型,ROCm 生态现在也比两年前成熟很多。那位说「不要玩 AMD」的要么没亲自试过,要么刻板印象停在 RX 580 时代。

      几个现实问题:

      1. X99 的 DDR4 内存频率低(2133-2400),ROCm 的 Unified Memory 会受影响,双卡间数据传输比 DDR5 平台慢。
      2. R9700 双卡需要主板支持 PCIe Bifurcation(x8/x8 拆分),很多 X99 板子是 x16 + x4(第二条实际跑 x4),买前确认主板型号。
      3. 电源要 1000W+,R9700 单卡 TBP 约 260W,双卡 + CPU + 其他轻松 700W+。

      建议:
      如果预算真的紧且手里已经有 X99 平台,可以试试。但如果要从零买,建议加钱上 X670/B650 平台 + 一张 R9700(32GB),以后再升级第二张。X99 的 IPC 太弱,跑 llama.cpp 的 prompt processing 会明显比现代平台慢。

      ken chanK 1 条回复 最后回复
      2
      • ken chanK ken chan

        66cc11e1-a200-4b16-8bef-72b9c4c2fd88-image.jpeg

        terryT 离线
        terryT 离线
        terry
        超级版主
        编写于 最后由 编辑
        #4

        @ken-chan 可以,但是AMD多卡生态不好,两张各自运行一个模型,各自跑ComfyUI都带的动。另外CD3的PCIE据说驱动残疾,我没验证过,我是一张7900xtx,一张4090 48G,没感觉到带不动。
        双显卡机箱1.jpg

        油管:https://www.youtube.com/@抡锤者

        ken chanK 1 条回复 最后回复
        0
        • ken chanK 离线
          ken chanK 离线
          ken chan
          编写于 最后由 编辑
          #5
          此主題已被删除!
          1 条回复 最后回复
          0
          • XiaoteX Xiaote

            @ken chan @八十 我来补充点实际建议:

            先说结论:X99 平台装双 R9700 技术上可行,但有几个坑需要注意。

            PCIe 通道够不够?
            X99 的 CPU(如 E5-2680 v4)提供 40 条 PCIe 3.0 通道,两个 GPU 各跑 x8 没问题(x8 3.0 对推理来说带宽够用,损失 <5%)。但要注意:

            • 如果还插了 NVMe SSD(吃 4 条),剩下只有 4 条给其他设备
            • 南桥 PCH 出来的 PCIe 插槽别用,只走 CPU 直连的
            • 双卡间距要够,R9700 是 250W+ 的卡,靠太近散热会炸

            R9700 值不值?
            R9700(32GB)是目前性价比最高的本地 AI 卡之一。双卡 64GB 显存能跑 70B 模型,ROCm 生态现在也比两年前成熟很多。那位说「不要玩 AMD」的要么没亲自试过,要么刻板印象停在 RX 580 时代。

            几个现实问题:

            1. X99 的 DDR4 内存频率低(2133-2400),ROCm 的 Unified Memory 会受影响,双卡间数据传输比 DDR5 平台慢。
            2. R9700 双卡需要主板支持 PCIe Bifurcation(x8/x8 拆分),很多 X99 板子是 x16 + x4(第二条实际跑 x4),买前确认主板型号。
            3. 电源要 1000W+,R9700 单卡 TBP 约 260W,双卡 + CPU + 其他轻松 700W+。

            建议:
            如果预算真的紧且手里已经有 X99 平台,可以试试。但如果要从零买,建议加钱上 X670/B650 平台 + 一张 R9700(32GB),以后再升级第二张。X99 的 IPC 太弱,跑 llama.cpp 的 prompt processing 会明显比现代平台慢。

            ken chanK 离线
            ken chanK 离线
            ken chan
            编写于 最后由 编辑
            #6

            @Xiaote 说:

            @ken chan @八十 我来补充点实际建议:

            先说结论:X99 平台装双 R9700 技术上可行,但有几个坑需要注意。

            PCIe 通道够不够?
            X99 的 CPU(如 E5-2680 v4)提供 40 条 PCIe 3.0 通道,两个 GPU 各跑 x8 没问题(x8 3.0 对推理来说带宽够用,损失 <5%)。但要注意:

            • 如果还插了 NVMe SSD(吃 4 条),剩下只有 4 条给其他设备
            • 南桥 PCH 出来的 PCIe 插槽别用,只走 CPU 直连的
            • 双卡间距要够,R9700 是 250W+ 的卡,靠太近散热会炸

            R9700 值不值?
            R9700(32GB)是目前性价比最高的本地 AI 卡之一。双卡 64GB 显存能跑 70B 模型,ROCm 生态现在也比两年前成熟很多。那位说「不要玩 AMD」的要么没亲自试过,要么刻板印象停在 RX 580 时代。

            几个现实问题:

            1. X99 的 DDR4 内存频率低(2133-2400),ROCm 的 Unified Memory 会受影响,双卡间数据传输比 DDR5 平台慢。
            2. R9700 双卡需要主板支持 PCIe Bifurcation(x8/x8 拆分),很多 X99 板子是 x16 + x4(第二条实际跑 x4),买前确认主板型号。
            3. 电源要 1000W+,R9700 单卡 TBP 约 260W,双卡 + CPU + 其他轻松 700W+。

            建议:
            如果预算真的紧且手里已经有 X99 平台,可以试试。但如果要从零买,建议加钱上 X670/B650 平台 + 一张 R9700(32GB),以后再升级第二张。X99 的 IPC 太弱,跑 llama.cpp 的 prompt processing 会明显比现代平台慢。

            哪些是现代平台,我有哪些选择?

            1 条回复 最后回复
            0
            • terryT terry

              @ken-chan 可以,但是AMD多卡生态不好,两张各自运行一个模型,各自跑ComfyUI都带的动。另外CD3的PCIE据说驱动残疾,我没验证过,我是一张7900xtx,一张4090 48G,没感觉到带不动。
              双显卡机箱1.jpg

              ken chanK 离线
              ken chanK 离线
              ken chan
              编写于 最后由 编辑
              #7

              @terry 说:

              @ken-chan 可以,但是AMD多卡生态不好,两张各自运行一个模型,各自跑ComfyUI都带的动。另外CD3的PCIE据说驱动残疾,我没验证过,我是一张7900xtx,一张4090 48G,没感觉到带不动。
              双显卡机箱1.jpg

              CD3的PCIE据说驱动残疾,会表现为什么呢?
              我看下,要不要升级为 X670/B650 平台

              1 条回复 最后回复
              0
              • terryT 离线
                terryT 离线
                terry
                超级版主
                编写于 最后由 编辑
                #8

                我的领域表现不出什么,估计是说点对点协议,传输效率之类的,我暂时用不到,我两张卡是分开工作的。估计还是TP的效率问题。建议你上PCIE 4的,EPYC套餐,大搞3000多板U。

                油管:https://www.youtube.com/@抡锤者

                ken chanK 2 条回复 最后回复
                0
                • ken chanK 离线
                  ken chanK 离线
                  ken chan
                  编写于 最后由 编辑
                  #9
                  此主題已被删除!
                  1 条回复 最后回复
                  0
                  • terryT terry

                    我的领域表现不出什么,估计是说点对点协议,传输效率之类的,我暂时用不到,我两张卡是分开工作的。估计还是TP的效率问题。建议你上PCIE 4的,EPYC套餐,大搞3000多板U。

                    ken chanK 离线
                    ken chanK 离线
                    ken chan
                    编写于 最后由 编辑
                    #10

                    @terry 说:

                    我的领域表现不出什么,估计是说点对点协议,传输效率之类的,我暂时用不到,我两张卡是分开工作的。估计还是TP的效率问题。建议你上PCIE 4的,EPYC套餐,大搞3000多板U。

                    哦,那只要升级一下主板就可以了对吧?内存条和硬盘太贵,我还可以用ddr3和老旧的固态硬盘吗?

                    terryT 1 条回复 最后回复
                    0
                    • ken chanK ken chan

                      @terry 说:

                      我的领域表现不出什么,估计是说点对点协议,传输效率之类的,我暂时用不到,我两张卡是分开工作的。估计还是TP的效率问题。建议你上PCIE 4的,EPYC套餐,大搞3000多板U。

                      哦,那只要升级一下主板就可以了对吧?内存条和硬盘太贵,我还可以用ddr3和老旧的固态硬盘吗?

                      terryT 离线
                      terryT 离线
                      terry
                      超级版主
                      编写于 最后由 编辑
                      #11

                      @ken-chan 不能,它是DDR4都平台,硬盘不影响,但是你非要TP吗?说实话TP效果不是很好,9700单卡工作挺好的,两张分开跑2个人任务效率高多了,它32G显存啊。

                      油管:https://www.youtube.com/@抡锤者

                      ken chanK 1 条回复 最后回复
                      0
                      • ken chanK 离线
                        ken chanK 离线
                        ken chan
                        编写于 最后由 编辑
                        #12
                        此主題已被删除!
                        1 条回复 最后回复
                        0
                        • terryT terry

                          @ken-chan 不能,它是DDR4都平台,硬盘不影响,但是你非要TP吗?说实话TP效果不是很好,9700单卡工作挺好的,两张分开跑2个人任务效率高多了,它32G显存啊。

                          ken chanK 离线
                          ken chanK 离线
                          ken chan
                          编写于 最后由 编辑
                          #13

                          @terry 说:

                          @ken-chan 不能,它是DDR4都平台,硬盘不影响,但是你非要TP吗?说实话TP效果不是很好,9700单卡工作挺好的,两张分开跑2个人任务效率高多了,它32G显存啊。

                          好的好的,我这两张卡,可以分开跑comfui和qwen3.5 27b稠密模型了

                          terryT 1 条回复 最后回复
                          0
                          • ken chanK ken chan

                            @terry 说:

                            @ken-chan 不能,它是DDR4都平台,硬盘不影响,但是你非要TP吗?说实话TP效果不是很好,9700单卡工作挺好的,两张分开跑2个人任务效率高多了,它32G显存啊。

                            好的好的,我这两张卡,可以分开跑comfui和qwen3.5 27b稠密模型了

                            terryT 离线
                            terryT 离线
                            terry
                            超级版主
                            编写于 最后由 编辑
                            #14

                            @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                            油管:https://www.youtube.com/@抡锤者

                            ken chanK 4 条回复 最后回复
                            0
                            • terryT terry

                              @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                              ken chanK 离线
                              ken chanK 离线
                              ken chan
                              编写于 最后由 编辑
                              #15

                              @terry 说:

                              @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                              哦,那还得是单卡大显存,才玩得爽
                              --- 贫穷,让我无视了它

                              1 条回复 最后回复
                              1
                              • terryT terry

                                @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                                ken chanK 离线
                                ken chanK 离线
                                ken chan
                                编写于 最后由 编辑
                                #16
                                此主題已被删除!
                                1 条回复 最后回复
                                0
                                • terryT terry

                                  @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                                  ken chanK 离线
                                  ken chanK 离线
                                  ken chan
                                  编写于 最后由 编辑
                                  #17

                                  @terry 说:

                                  @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                                  使用这个R9700,如果使用比较新的板u,cpu使用Intel还是amd呢?显卡是amd的,cpu要用amd的吗?好像听说amd的显卡兼容性不好,但是性能更强

                                  1 条回复 最后回复
                                  0
                                  • terryT terry

                                    我的领域表现不出什么,估计是说点对点协议,传输效率之类的,我暂时用不到,我两张卡是分开工作的。估计还是TP的效率问题。建议你上PCIE 4的,EPYC套餐,大搞3000多板U。

                                    ken chanK 离线
                                    ken chanK 离线
                                    ken chan
                                    编写于 最后由 ken chan 编辑
                                    #18

                                    @terry 说:

                                    我的领域表现不出什么,估计是说点对点协议,传输效率之类的,我暂时用不到,我两张卡是分开工作的。估计还是TP的效率问题。建议你上PCIE 4的,EPYC套餐,大搞3000多板U。

                                    哦,刚刚了解到,R9700显卡是PCIE5的,使用PCIE4,是不是会降频的意思?好多主板都是只有一根PCIE5,另一个是pcie4的。0f5178ec-920a-4beb-82c8-901746b90ed8-image.jpeg

                                    1 条回复 最后回复
                                    0
                                    • terryT terry

                                      @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                                      ken chanK 离线
                                      ken chanK 离线
                                      ken chan
                                      编写于 最后由 编辑
                                      #19

                                      @terry 说:

                                      @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                                      1f9620aa-4fc6-4bf5-9800-21964d6c7be5-image.jpeg

                                      可以再帮我看下这个配置可以吗?就是贵了点,但是看到主板说,只有一个是PCIE5,另一个是pcie4的,要是安装两个R9700,有一个显卡的性能是不是会下降呢?

                                      terryT 1 条回复 最后回复
                                      0
                                      • GH YG 离线
                                        GH YG 离线
                                        GH Y
                                        编写于 最后由 编辑
                                        #20

                                        D86088D692BEA6446DFA538C39DF8623.png看球看的好无聊,逛论坛竟然看到和自己想法一样的,一起进坑的兄弟了,我也想玩A卡,岁数大了,看锤子大神的视频,确实不想折腾魔改卡。我已经买了一张r9700,今天到,也想上两张卡,明天去装机,这是我的主机配置,先搞一张玩一下。以后还要多跟论坛各位大神多学习交流。

                                        ken chanK 2 条回复 最后回复
                                        2
                                        • ken chanK ken chan

                                          @terry 说:

                                          @ken-chan 它跑大模型,上下文足够,你去看下MTP的优化,体验会好很多,跑ComfyUI 32G也足够出720P短视频了,960*544能爽玩。完全够了。TP 64G显存,你还是只能跑27B模型,也不会快到哪里去。

                                          1f9620aa-4fc6-4bf5-9800-21964d6c7be5-image.jpeg

                                          可以再帮我看下这个配置可以吗?就是贵了点,但是看到主板说,只有一个是PCIE5,另一个是pcie4的,要是安装两个R9700,有一个显卡的性能是不是会下降呢?

                                          terryT 离线
                                          terryT 离线
                                          terry
                                          超级版主
                                          编写于 最后由 编辑
                                          #21

                                          @ken-chan 没必要双卡,你要TP双卡PCIE4和你现在的选择没啥差别,要不就两个PCIE5* 16的,而且你要看通道数的,服务器主板有多个PICE416的插槽,你的主板如果是PCIE58的,那意义也不大。就算是PCIE5的,双卡TP也没有两张分开来跑效率高,你TP就是跑大模型,双卡TP也只有64G显存,还是只能跑Qwen3.6 27b,干嘛这么执着呢?A卡的TP生态不好,你要去折腾SG-Lang,看这样子你不容易搞定。

                                          油管:https://www.youtube.com/@抡锤者

                                          ken chanK 1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组