跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 3W 预算玩qwen3.8-27b + 生图生视频,双R9700有没有搞头?踩坑实录

3W 预算玩qwen3.8-27b + 生图生视频,双R9700有没有搞头?踩坑实录

已定时 已固定 已锁定 已移动 热议 AI硬件
r9700qwen-27b多卡部署
35 帖子 10 发布者 1.1k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Y G 0Y
    Y G 0Y
    Y G 0
    体面乡绅
    发表于 最后由 Y G 0 编辑
    #7

    同样在关注R9700双卡的配置,目前在关注的几个散件如下:

    • 显卡:讯景、盈通、瀚铠这三家中选
    • 主板+CPU套装:铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装,支持双PCIe 5.0 8+8 拆分
    • 内存:十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
    • 存储:致态(ZhiTai)长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
    • 电源:酷冷至尊白金 1300w,支持双路12V-2x6
    • 机箱:华硕PA401+利民PA120 SE套装

    目前内存价格太疯狂了,只想跑LLM,没别的需求,先32G对付一阵再说。

    X99洋垃圾+7900XTX

    GeekyangG ? kos orK 3 条回复 最后回复
    0
    • S
      S
      stormaround
      发表于 最后由 编辑
      #8

      可以考虑用e5 + x99 + ddr3,能省不少,ddr4价格大概是ddr3的3-4倍,如果两张r9700 跑模型,用128g -256g内存,可以跑qwen3.8-flash-next很好用,如果一张跑模型,一张跑视频,可以考虑买4080s 32g,出视频n卡少折腾,跑的快

      ? 1 条回复 最后回复
      0
      • Y G 0Y Y G 0

        同样在关注R9700双卡的配置,目前在关注的几个散件如下:

        • 显卡:讯景、盈通、瀚铠这三家中选
        • 主板+CPU套装:铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装,支持双PCIe 5.0 8+8 拆分
        • 内存:十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
        • 存储:致态(ZhiTai)长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
        • 电源:酷冷至尊白金 1300w,支持双路12V-2x6
        • 机箱:华硕PA401+利民PA120 SE套装

        目前内存价格太疯狂了,只想跑LLM,没别的需求,先32G对付一阵再说。

        GeekyangG
        GeekyangG
        Geekyang
        已封禁
        发表于 最后由 编辑
        #9

        @Y-G-0 这个应该理论上降速到PCIE4.0x8, 因为不可能拆分成PCIE4.0x16

        Y G 0Y GeekyangG 2 条回复 最后回复
        0
        • ? 老用户

          @鍾子揚 说:

          我也是雙r9700,主機板配GIGABYTE技嘉 Z890 AERO G/ATX/1851腳位,有pcie 5.0 ×8兩槽可以用。

          要直通x8 x8拆分,跟双16好像又不是一回事。另外你的主板要上ddr5,太贵啦。。。我只有ddr4的ecc

          鍾子揚鍾
          鍾子揚鍾
          鍾子揚
          体面乡绅
          发表于 最后由 编辑
          #10

          @算盤俠 喔喔,我是早早買了ddr5 5600 128g,所以就接著用

          ? 1 条回复 最后回复
          0
          • GeekyangG Geekyang

            @Y-G-0 这个应该理论上降速到PCIE4.0x8, 因为不可能拆分成PCIE4.0x16

            Y G 0Y
            Y G 0Y
            Y G 0
            体面乡绅
            发表于 最后由 编辑
            #11

            @Geekyang 这是它的宣传图,双PCIe 5.0的插槽,单卡 x16,双卡拆分成 8+8。但目前还没入手,姑妄信之。

            eb37d099-2555-448f-9e16-a87b2f73a88f-image.jpeg

            X99洋垃圾+7900XTX

            BunseiB 1 条回复 最后回复
            0
            • GeekyangG Geekyang

              @Y-G-0 这个应该理论上降速到PCIE4.0x8, 因为不可能拆分成PCIE4.0x16

              GeekyangG
              GeekyangG
              Geekyang
              已封禁
              发表于 最后由 Geekyang 编辑
              #12

              我看见了,人家说的没错啊,2个PCIE5.0 x8,那你用PCIE5 *16的显卡对接,降速到PCIE5.0 x8,用PCIE4 *16,不就是降速到PCIE4 *8

              1 条回复 最后回复
              0
              • 鍾子揚鍾 鍾子揚

                @算盤俠 喔喔,我是早早買了ddr5 5600 128g,所以就接著用

                ?
                ?
                老用户
                发表于 最后由 编辑
                #13

                @鍾子揚 太幸福了!

                1 条回复 最后回复
                0
                • S stormaround

                  可以考虑用e5 + x99 + ddr3,能省不少,ddr4价格大概是ddr3的3-4倍,如果两张r9700 跑模型,用128g -256g内存,可以跑qwen3.8-flash-next很好用,如果一张跑模型,一张跑视频,可以考虑买4080s 32g,出视频n卡少折腾,跑的快

                  ?
                  ?
                  老用户
                  发表于 最后由 编辑
                  #14

                  @stormaround 谢谢建议,但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc,是以前公司剩下的。而且PCIE3.0太慢啦。
                  我是准备双R9700来跑生图视频/llm的,因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具,就是家里想有个这玩意,跟当年玩NAS一样啦

                  S 1 条回复 最后回复
                  0
                  • Y G 0Y Y G 0

                    同样在关注R9700双卡的配置,目前在关注的几个散件如下:

                    • 显卡:讯景、盈通、瀚铠这三家中选
                    • 主板+CPU套装:铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装,支持双PCIe 5.0 8+8 拆分
                    • 内存:十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
                    • 存储:致态(ZhiTai)长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
                    • 电源:酷冷至尊白金 1300w,支持双路12V-2x6
                    • 机箱:华硕PA401+利民PA120 SE套装

                    目前内存价格太疯狂了,只想跑LLM,没别的需求,先32G对付一阵再说。

                    ?
                    ?
                    老用户
                    发表于 最后由 编辑
                    #15

                    @Y-G-0 非常好的配置啊。就是DDR5实在太贵了,跑H3视频模型据说要大量内存,起码要大于显存。这也是我纠结的点。

                    1 条回复 最后回复
                    0
                    • ? 老用户

                      @stormaround 谢谢建议,但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc,是以前公司剩下的。而且PCIE3.0太慢啦。
                      我是准备双R9700来跑生图视频/llm的,因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具,就是家里想有个这玩意,跟当年玩NAS一样啦

                      S
                      S
                      stormaround
                      发表于 最后由 编辑
                      #16

                      @算盤俠 说:

                      @stormaround 谢谢建议,但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc,是以前公司剩下的。而且PCIE3.0太慢啦。
                      我是准备双R9700来跑生图视频/llm的,因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具,就是家里想有个这玩意,跟当年玩NAS一样啦

                      那确实可以用ddr4,如果一定要本地部署两张r9700 部署qwen3.8-flash最好,或者用云端api,本地部署comfyui,单张r9700 部署27b,另一张部署minimax h3 也可以

                      ? 1 条回复 最后回复
                      0
                      • S stormaround

                        @算盤俠 说:

                        @stormaround 谢谢建议,但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc,是以前公司剩下的。而且PCIE3.0太慢啦。
                        我是准备双R9700来跑生图视频/llm的,因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具,就是家里想有个这玩意,跟当年玩NAS一样啦

                        那确实可以用ddr4,如果一定要本地部署两张r9700 部署qwen3.8-flash最好,或者用云端api,本地部署comfyui,单张r9700 部署27b,另一张部署minimax h3 也可以

                        ?
                        ?
                        老用户
                        发表于 最后由 编辑
                        #17

                        @stormaround 据说两张R9700部署H3是有1.7倍左右速度提升

                        S 1 条回复 最后回复
                        0
                        • ? 老用户
                          [[topic:post-is-deleted]]
                          XiaoteX
                          XiaoteX
                          Xiaote
                          易有太极
                          发表于 最后由 编辑
                          #18

                          你的坑我都看到了,给两条能收尾的路:

                          结论先给:要保留 DDR4 ECC + 双卡 x8/x8 + 塔式,正确平台是 EPYC 7002/7003 + 服务器板,不该硬救 MZ32-AR0 那块窄板。

                          • MZ32-AR0 的问题是 DIMM 槽紧贴 PCIe 槽,长卡一插就顶内存;这是板型问题,转接卡能救但会牺牲高度和风道。要省事就换 ROMED8-2T(ASRock Rack,7 条 PCIe 4.0 x16,槽距宽松,8 通道 DDR4 ECC)或超微 H12SSL 系列;EPYC 7302 已在手,直接沿用。
                          • 电源:R9700 是 12V-2x6(V12)接口,确认新电源原生带两条 12V-2x6,别用一分二转接去带双卡 600W。1200W 白金够。
                          • 内存:有 DDR4 ECC 就插满 8 通道;H3/MiniMax 这类视频模型吃 host 内存(常要大于显存),128G 起步、256G 更稳,别只上 64G。
                          • 机箱:双 32G 单槽卡用 4U 服务器机箱或开放平台最省心;塔式要选装得下长卡、进风够的,亚克力罩那种会把热闷死。
                          • PCIe 4.0 x8/x8 对双卡 TP 够用(约 16 GB/s),不用强求 x16/x16。

                          按这个换板+机箱,7302、双 R9700、1200W 都能救回来,比再买一套消费级 DDR5 平台省得多。

                          老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                          1 条回复 最后回复
                          0
                          • Y G 0Y Y G 0

                            @Geekyang 这是它的宣传图,双PCIe 5.0的插槽,单卡 x16,双卡拆分成 8+8。但目前还没入手,姑妄信之。

                            eb37d099-2555-448f-9e16-a87b2f73a88f-image.jpeg

                            BunseiB
                            BunseiB
                            Bunsei
                            王侯将相
                            发表于 最后由 编辑
                            #19

                            @Y-G-0 说:

                            @Geekyang 这是它的宣传图,双PCIe 5.0的插槽,单卡 x16,双卡拆分成 8+8。但目前还没入手,姑妄信之。

                            eb37d099-2555-448f-9e16-a87b2f73a88f-image.jpeg

                            我用的就是这个板子,可以PCIE5 8+8 P2P

                            1 条回复 最后回复
                            0
                            • kos orK
                              kos orK
                              kos or
                              至尊皇帝
                              发表于 最后由 kos or 编辑
                              #20

                              買到一樣的主板, 買了之後發現 内存槽是顶着显卡PCIE插槽的, 想說 算了, 最後還是要走 pcie riser,
                              深度太深 305 x 330 mm 機架也不好找
                              大概要往這發展了, 這機架高度看來可以 深度不確定,
                              但能裝下照片中這張 27.2cm ASRock WRX 80 Creator - EATX Form Factor: 12.0-in x 10.7-in, 30.5 cm x 27.2 cm
                              折騰折騰 就為了省RAM的成本, 但能換到CP值相對高的大RAM 最後還是會很爽的

                              image.jpeg

                              ? 1 条回复 最后回复
                              0
                              • Y G 0Y Y G 0

                                同样在关注R9700双卡的配置,目前在关注的几个散件如下:

                                • 显卡:讯景、盈通、瀚铠这三家中选
                                • 主板+CPU套装:铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装,支持双PCIe 5.0 8+8 拆分
                                • 内存:十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
                                • 存储:致态(ZhiTai)长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
                                • 电源:酷冷至尊白金 1300w,支持双路12V-2x6
                                • 机箱:华硕PA401+利民PA120 SE套装

                                目前内存价格太疯狂了,只想跑LLM,没别的需求,先32G对付一阵再说。

                                kos orK
                                kos orK
                                kos or
                                至尊皇帝
                                发表于 最后由 kos or 编辑
                                #21

                                @Y-G-0 said:

                                内存:十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士

                                32G 跑一個comfyui 差不多就要爆了, 上次玩Minimax-H3 影片生成 記憶體吃的兇

                                1 条回复 最后回复
                                0
                                • kos orK kos or

                                  買到一樣的主板, 買了之後發現 内存槽是顶着显卡PCIE插槽的, 想說 算了, 最後還是要走 pcie riser,
                                  深度太深 305 x 330 mm 機架也不好找
                                  大概要往這發展了, 這機架高度看來可以 深度不確定,
                                  但能裝下照片中這張 27.2cm ASRock WRX 80 Creator - EATX Form Factor: 12.0-in x 10.7-in, 30.5 cm x 27.2 cm
                                  折騰折騰 就為了省RAM的成本, 但能換到CP值相對高的大RAM 最後還是會很爽的

                                  image.jpeg

                                  ?
                                  ?
                                  老用户
                                  发表于 最后由 编辑
                                  #22

                                  @kos-or wow~还真有这种架子啊,看起来还不错。感谢老友。这种是定制的机架吗?

                                  kos orK 1 条回复 最后回复
                                  0
                                  • ? 老用户

                                    @kos-or wow~还真有这种架子啊,看起来还不错。感谢老友。这种是定制的机架吗?

                                    kos orK
                                    kos orK
                                    kos or
                                    至尊皇帝
                                    发表于 最后由 kos or 编辑
                                    #23

                                    @算盤俠

                                    市面上找不到 上次在ebay上看過一次 , 買之前要先量測好距離和空間,
                                    否則到手後又出問題 尤其顯卡長度

                                    這能訂製嗎?如果可以就設計個機箱和風道 強化散熱系統

                                    1 条回复 最后回复
                                    0
                                    • ? 老用户
                                      [[topic:post-is-deleted]]
                                      kos orK
                                      kos orK
                                      kos or
                                      至尊皇帝
                                      发表于 最后由 kos or 编辑
                                      #24

                                      @算盤俠 said:

                                      4U5管散热器套装

                                      你有上機使用了嗎?聲音大不大 我在想要不要賣掉換其他散热器?

                                      基本上這張主板不適合安裝顯卡GPUs, 但其他適合安裝顯卡的價格都上漲不少,
                                      真的是踩坑實錄, 但你手上記憶體多 好處是可以安裝16隻

                                      ed70d2a9-af88-42f7-8d6b-8bb112d44166-image.jpeg

                                      ? 1 条回复 最后回复
                                      0
                                      • ? 老用户

                                        @stormaround 据说两张R9700部署H3是有1.7倍左右速度提升

                                        S
                                        S
                                        stormaround
                                        发表于 最后由 编辑
                                        #25

                                        @算盤俠 说:

                                        @stormaround 据说两张R9700部署H3是有1.7倍左右速度提升

                                        默认估计没有,需要装插件,昨天github上看到一个插件,multiGPU

                                        ? 1 条回复 最后回复
                                        0
                                        • S stormaround

                                          @算盤俠 说:

                                          @stormaround 据说两张R9700部署H3是有1.7倍左右速度提升

                                          默认估计没有,需要装插件,昨天github上看到一个插件,multiGPU

                                          ?
                                          ?
                                          老用户
                                          发表于 最后由 编辑
                                          #26

                                          @stormaround 就是这个插件,最近社区出的东西

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组