跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 比较流畅的跑Qwen 3.6 27B 模型本地部署,使用AI PRO R9700,主机怎么配置

比较流畅的跑Qwen 3.6 27B 模型本地部署,使用AI PRO R9700,主机怎么配置

已定时 已固定 已锁定 已移动 AI硬件
r9700ai-pro-r9700
32 帖子 17 发布者 1.6k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Foster XuF 离线
    Foster XuF 离线
    Foster Xu
    发表于 最后由 编辑
    #1

    各位大佬,好!

    我准备配置一台电脑,使用AI Pro R9700的显卡。
    短期,先试用一块显卡,跑Qwen 3.6 27B模型
    之后有机会且需要时,增加一块R9700显卡,跑更多或者更大的模型

    请问一下,硬件配置怎么搭配?
    预算1.5~2W是否可以搞定。

    以上,感谢各位大佬

    1 条回复 最后回复
    0
    • Tony WangT 离线
      Tony WangT 离线
      Tony Wang
      超级版主
      发表于 最后由 Tony Wang 编辑
      #2

      如果你不在乎噪音的话, 我觉得1.5W也够, 如果你在乎噪音的话, 2W都勉强. 最近显卡又涨价了, R9700 都 1 - 1.2W了.

      硬件配置你问AI, 它都能帮你搞定.

      你要是就想跑起来, 就参考老特的X99.

      你要是想豪华一点儿: 我觉得一块850的板子, 9700 CPU, 32G内存, 2T SSD, 普通的散热, 机箱, 再加个好点儿的电源.

      1 条回复 最后回复
      0
      • terryT 离线
        terryT 离线
        terry
        超级版主
        发表于 最后由 编辑
        #3

        一张卡1.1万,两张卡就2.2,所以搞不定。如果要便宜,x99+64G DDR3 1866内存+这张卡,抄作业就是了,1.5w左右搞定整机。

        油管:https://www.youtube.com/@抡锤者

        tmp tmpT 1 条回复 最后回复
        2
        • T 离线
          T 离线
          tutu
          发表于 最后由 编辑
          #4

          非要r9700这个卡吗,两个3090也挺好的,这个价格你也可以等等新款macmini m5 pro的芯片的,我是强烈建议苹果m5生态,毕竟噪音和功耗决定你是否想用和敢用

          W 1 条回复 最后回复
          0
          • Foster XuF 离线
            Foster XuF 离线
            Foster Xu
            发表于 最后由 Foster Xu 编辑
            #5

            8313aa77-a65d-47d6-b350-b08866e3117c-image.jpeg
            这两天看了一下,先上单卡,准备采用这个配置,
            以后合适的时间,可以追加一个R9700,组成双卡
            升级双卡的时候,主板和电源都够,应该性能不会有折扣
            大家帮忙看看,谢谢

            W 1 条回复 最后回复
            0
            • terryT 离线
              terryT 离线
              terry
              超级版主
              发表于 最后由 terry 编辑
              #6

              没啥问题,你的主板是否支持双卡你要确认下。电源超标了,利民1000w就够了,两张也足够。不过你愿意超配也没问题。

              油管:https://www.youtube.com/@抡锤者

              1 条回复 最后回复
              0
              • M 离线
                M 离线
                mraksugar
                发表于 最后由 编辑
                #7

                为什么要把钱花在ddr5和主板上,这一套就无法避免还要配置个2t pcie5,此处应有一个震惊的表情。@terry 评论怎么没有表情包
                如果是我,我顶多用amd xen3架构。最合适的无非就是洋垃圾x99,一年就算费电也用不了多少。省下来的钱加到显卡上不好吗

                terryT 1 条回复 最后回复
                0
                • M mraksugar

                  为什么要把钱花在ddr5和主板上,这一套就无法避免还要配置个2t pcie5,此处应有一个震惊的表情。@terry 评论怎么没有表情包
                  如果是我,我顶多用amd xen3架构。最合适的无非就是洋垃圾x99,一年就算费电也用不了多少。省下来的钱加到显卡上不好吗

                  terryT 离线
                  terryT 离线
                  terry
                  超级版主
                  发表于 最后由 编辑
                  #8

                  @mraksugar 他买新产品有保修,走这个路子有什么好喷的,不是所有人都在乎这点硬件钱的。你看电源选购就知道,人家要的是省心。

                  油管:https://www.youtube.com/@抡锤者

                  1 条回复 最后回复
                  2
                  • Foster XuF 离线
                    Foster XuF 离线
                    Foster Xu
                    发表于 最后由 编辑
                    #9

                    散热器,有没有什么推荐的,各位好朋友

                    Tony WangT 1 条回复 最后回复
                    0
                    • A 离线
                      A 离线
                      applejuice
                      技术大牛 劳动模范
                      发表于 最后由 编辑
                      #10

                      真豪华 羡慕

                      我的洋垃圾 都要两万

                      1 条回复 最后回复
                      0
                      • Foster XuF Foster Xu

                        8313aa77-a65d-47d6-b350-b08866e3117c-image.jpeg
                        这两天看了一下,先上单卡,准备采用这个配置,
                        以后合适的时间,可以追加一个R9700,组成双卡
                        升级双卡的时候,主板和电源都够,应该性能不会有折扣
                        大家帮忙看看,谢谢

                        W 离线
                        W 离线
                        wml-ai
                        德高望重 劳动模范
                        发表于 最后由 编辑
                        #11

                        @Foster-Xu 说:

                        8313aa77-a65d-47d6-b350-b08866e3117c-image.jpeg
                        这两天看了一下,先上单卡,准备采用这个配置,
                        以后合适的时间,可以追加一个R9700,组成双卡
                        升级双卡的时候,主板和电源都够,应该性能不会有折扣
                        大家帮忙看看,谢谢

                        有钱人!不过话说这对金邦套条竟然不到4000!

                        Windows-Mac-Linux-AI

                        1 条回复 最后回复
                        0
                        • T tutu

                          非要r9700这个卡吗,两个3090也挺好的,这个价格你也可以等等新款macmini m5 pro的芯片的,我是强烈建议苹果m5生态,毕竟噪音和功耗决定你是否想用和敢用

                          W 离线
                          W 离线
                          wml-ai
                          德高望重 劳动模范
                          发表于 最后由 编辑
                          #12

                          @tutu 说:

                          非要r9700这个卡吗,两个3090也挺好的,这个价格你也可以等等新款macmini m5 pro的芯片的,我是强烈建议苹果m5生态,毕竟噪音和功耗决定你是否想用和敢用

                          Mac mini噪音=0,功耗确实很低。这一块确实吊打PC。

                          Windows-Mac-Linux-AI

                          terryT 1 条回复 最后回复
                          0
                          • W wml-ai

                            @tutu 说:

                            非要r9700这个卡吗,两个3090也挺好的,这个价格你也可以等等新款macmini m5 pro的芯片的,我是强烈建议苹果m5生态,毕竟噪音和功耗决定你是否想用和敢用

                            Mac mini噪音=0,功耗确实很低。这一块确实吊打PC。

                            terryT 离线
                            terryT 离线
                            terry
                            超级版主
                            发表于 最后由 terry 编辑
                            #13

                            @wml-ai 不开机的话噪音更小。Mac mini就是废物,没与任何资格和R9700相比,M3 Ultra,M4 Pro,M5 Max的用户都发了实测了,你能比他们配置还高?

                            油管:https://www.youtube.com/@抡锤者

                            W 1 条回复 最后回复
                            0
                            • Foster XuF Foster Xu

                              散热器,有没有什么推荐的,各位好朋友

                              Tony WangT 离线
                              Tony WangT 离线
                              Tony Wang
                              超级版主
                              发表于 最后由 Tony Wang 编辑
                              #14

                              @Foster-Xu

                              你这个配置可能有点儿问题, X670E 战斧导弹 无法拆分为两个 pcie X8, 你将来上第二块R9700 只能跑在 pcie X4上面. CPU可以降级为 9700X, 功耗更低些.

                              散热可以选猫头鹰 D15S, 压制 9900X, 9700X 完全没有问题, 而且给你的内存留出了空间.

                              我查了多个AI, 它们对于 第一条 pcie 5.0 X16 是否能差分为两个 X8, 给出了混乱的矛盾的回答. 逼的我最后只能上官网去查.

                              我现在唯一能确定的, 是 MPG X670E CARBON WIFI 暗黑 明确支持拆分为 两个X8. 它的2槽是从CPU出去的.

                              3x PCI-E x16 插槽(数量)
                              • Supports x16/x0/x4 or x8/x8/x4 (For Ryzen™ 9000/ 7000 Series processors)
                              • Supports x8/x0/x4 (For Ryzen™ 8700/ 8600/ 8400 Series processors)
                              • Supports x4/x0/x4 (For Ryzen™ 8500/ 8300 Series processors)
                              PCI_E1 Gen PCIe 5.0 supports up to x16 (From CPU)
                              PCI_E2 Gen PCIe 5.0 supports up to x8 (From CPU)
                              PCI_E3 Gen PCIe 4.0 supports up to x4 (From Chipset)
                              

                              而 MAG X670E TOMAHAWK WIFI 明确不支持 两个 X8 拆分, 它的2槽是从芯片组过去的.

                              3x PCI-E x16 插槽(数量)
                              • Supports x16/x4/x2 (For Ryzen™ 9000/ 7000 Series processors)
                              • Supports x8/x4/x2(For Ryzen™ 8700/ 8600/ 8400 Series processors)
                              • Supports x4/x2/x2 (For Ryzen™ 8500/ 8300 Series processors)
                              1x PCI-E x1 插槽(数量)
                              PCI_E1 Gen PCIe 5.0 supports up to x16 (From CPU)
                              PCI_E2 Gen PCIe 3.0 supports up to x1 (From Chipset)
                              PCI_E3 Gen PCIe 4.0 supports up to x4 (From CPU)
                              PCI_E4 Gen PCIe 4.0 supports up to x2 (From Chipset)
                              *PCI_E4 & M2_4 share the bandwidth. M2_4 will run at x2 speed when installing device in the PCI_E4 slot.
                              
                              jenaflexJ 1 条回复 最后回复
                              1
                              • Tony WangT Tony Wang

                                @Foster-Xu

                                你这个配置可能有点儿问题, X670E 战斧导弹 无法拆分为两个 pcie X8, 你将来上第二块R9700 只能跑在 pcie X4上面. CPU可以降级为 9700X, 功耗更低些.

                                散热可以选猫头鹰 D15S, 压制 9900X, 9700X 完全没有问题, 而且给你的内存留出了空间.

                                我查了多个AI, 它们对于 第一条 pcie 5.0 X16 是否能差分为两个 X8, 给出了混乱的矛盾的回答. 逼的我最后只能上官网去查.

                                我现在唯一能确定的, 是 MPG X670E CARBON WIFI 暗黑 明确支持拆分为 两个X8. 它的2槽是从CPU出去的.

                                3x PCI-E x16 插槽(数量)
                                • Supports x16/x0/x4 or x8/x8/x4 (For Ryzen™ 9000/ 7000 Series processors)
                                • Supports x8/x0/x4 (For Ryzen™ 8700/ 8600/ 8400 Series processors)
                                • Supports x4/x0/x4 (For Ryzen™ 8500/ 8300 Series processors)
                                PCI_E1 Gen PCIe 5.0 supports up to x16 (From CPU)
                                PCI_E2 Gen PCIe 5.0 supports up to x8 (From CPU)
                                PCI_E3 Gen PCIe 4.0 supports up to x4 (From Chipset)
                                

                                而 MAG X670E TOMAHAWK WIFI 明确不支持 两个 X8 拆分, 它的2槽是从芯片组过去的.

                                3x PCI-E x16 插槽(数量)
                                • Supports x16/x4/x2 (For Ryzen™ 9000/ 7000 Series processors)
                                • Supports x8/x4/x2(For Ryzen™ 8700/ 8600/ 8400 Series processors)
                                • Supports x4/x2/x2 (For Ryzen™ 8500/ 8300 Series processors)
                                1x PCI-E x1 插槽(数量)
                                PCI_E1 Gen PCIe 5.0 supports up to x16 (From CPU)
                                PCI_E2 Gen PCIe 3.0 supports up to x1 (From Chipset)
                                PCI_E3 Gen PCIe 4.0 supports up to x4 (From CPU)
                                PCI_E4 Gen PCIe 4.0 supports up to x2 (From Chipset)
                                *PCI_E4 & M2_4 share the bandwidth. M2_4 will run at x2 speed when installing device in the PCI_E4 slot.
                                
                                jenaflexJ 离线
                                jenaflexJ 离线
                                jenaflex
                                超级版主
                                发表于 最后由 编辑
                                #15

                                @Tony-Wang
                                华硕 pro art系列也支持x8 + x8 拆分

                                1 条回复 最后回复
                                0
                                • terryT terry

                                  @wml-ai 不开机的话噪音更小。Mac mini就是废物,没与任何资格和R9700相比,M3 Ultra,M4 Pro,M5 Max的用户都发了实测了,你能比他们配置还高?

                                  W 离线
                                  W 离线
                                  wml-ai
                                  德高望重 劳动模范
                                  发表于 最后由 编辑
                                  #16

                                  @terry 说:

                                  @wml-ai 不开机的话噪音更小。Mac mini就是废物,没与任何资格和R9700相比,M3 Ultra,M4 Pro,M5 Max的用户都发了实测了,你能比他们配置还高?

                                  我只是说噪音这方面,生产力方面肯定是比不过N卡。

                                  Windows-Mac-Linux-AI

                                  1 条回复 最后回复
                                  0
                                  • B 离线
                                    B 离线
                                    Brian
                                    德高望重
                                    发表于 最后由 编辑
                                    #17

                                    我刚配好,拼多多2800元, 2686v4*2,x99,1T,64g,不带显卡,显卡京东1.1万,电源700w,我自己换了1200w,长城750元。预装win10,本来想玩玩游戏再搞模型,win弹窗弹的难受,赶紧装了ubuntu,还在摸索,洋垃圾太强了

                                    A 1 条回复 最后回复
                                    2
                                    • B 离线
                                      B 离线
                                      Brian
                                      德高望重
                                      发表于 最后由 编辑
                                      #18

                                      安装了hermes,配了ds V4 pro,太省事了,不用怎么折腾

                                      1 条回复 最后回复
                                      1
                                      • B Brian

                                        我刚配好,拼多多2800元, 2686v4*2,x99,1T,64g,不带显卡,显卡京东1.1万,电源700w,我自己换了1200w,长城750元。预装win10,本来想玩玩游戏再搞模型,win弹窗弹的难受,赶紧装了ubuntu,还在摸索,洋垃圾太强了

                                        A 离线
                                        A 离线
                                        andyfay
                                        发表于 最后由 编辑
                                        #19

                                        @Brian 配置方便分享下,多谢!

                                        1 条回复 最后回复
                                        0
                                        • Kiner LiuK 离线
                                          Kiner LiuK 离线
                                          Kiner Liu
                                          发表于 最后由 Kiner Liu 编辑
                                          #20

                                          雙卡am5主板可以考慮 gigabyte b850 ai top, asrock x870e creator, asus x870e proart,都是原生兩根pcie 5.0 x8。四卡sTR5主板就要上TRX50/WRX90系列了。

                                          1 条回复 最后回复
                                          1

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组