跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?

4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?

已定时 已固定 已锁定 已移动 热议 AI硬件
r9700多卡部署
42 帖子 10 发布者 798 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 张光璞张
    张光璞张
    张光璞
    技术大牛 劳动模范
    编写于 最后由 编辑
    #27

    我不明白(奉化口音) ,为什么第一波放出来的mac 测评全部用 Qwen27B 4bit 。

    256G 1.2T/s 的内存带宽就干这个?

    1 条回复 最后回复
    0
    • 张光璞张
      张光璞张
      张光璞
      技术大牛 劳动模范
      编写于 最后由 张光璞 编辑
      #28

      我觉得这个才是你的真爱:
      https://huggingface.co/tcclaviger/Qwen3.8-Flash-Next-MXFP4-FP8

      1 条回复 最后回复
      0
      • Name ErrorN
        Name ErrorN
        Name Error
        德高望重 劳动模范
        编写于 最后由 Name Error 编辑
        #29

        @张光璞 好像是 Mac 的 prefill 太慢了。

        实际上我研究了4个开源仓库:

        https://github.com/tonyd2wild/Qwen38-Flash-Next-4x3090
        https://github.com/loktar00/qwen38-flash-next-vllm-3090-recipe
        https://github.com/MinChen05/Qwen3.8-Flash-Next-W4A16-4x3090
        【r9700方案】https://github.com/rickmellor/qwen3.8-flash-next-rdna4

        张光璞张 1 条回复 最后回复
        0
        • BunseiB Bunsei

          看了一圈感觉.. 可能 顶配 Mac Studio 才是更好的选择。

          Name ErrorN
          Name ErrorN
          Name Error
          德高望重 劳动模范
          编写于 最后由 编辑
          #30

          @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

          张光璞张 1 条回复 最后回复
          0
          • Name ErrorN Name Error

            @applejuice

            显卡:【¥130000】pro6000
            内存:【¥15000】2 根 32GB DDR5-6400
            主板+CPU:【预算¥12000】

            合计:¥157000

            未包含散热、电源、存储、机箱

            A
            A
            applejuice
            技术大牛 劳动模范
            编写于 最后由 编辑
            #31

            @Name-Error 我看错了
            看成pro 6000d 7万上下好像

            1 条回复 最后回复
            0
            • Name ErrorN Name Error

              @张光璞 好像是 Mac 的 prefill 太慢了。

              实际上我研究了4个开源仓库:

              https://github.com/tonyd2wild/Qwen38-Flash-Next-4x3090
              https://github.com/loktar00/qwen38-flash-next-vllm-3090-recipe
              https://github.com/MinChen05/Qwen3.8-Flash-Next-W4A16-4x3090
              【r9700方案】https://github.com/rickmellor/qwen3.8-flash-next-rdna4

              张光璞张
              张光璞张
              张光璞
              技术大牛 劳动模范
              编写于 最后由 编辑
              #32

              @Name-Error 说:

              @张光璞 好像是 Mac 的 prefill 太慢了。

              实际上我研究了4个开源仓库:

              https://github.com/tonyd2wild/Qwen38-Flash-Next-4x3090
              https://github.com/loktar00/qwen38-flash-next-vllm-3090-recipe
              https://github.com/MinChen05/Qwen3.8-Flash-Next-W4A16-4x3090
              【r9700方案】https://github.com/rickmellor/qwen3.8-flash-next-rdna4

              这个不要想,相同工艺,不可能你家又快又省电。 mac这么省电一定会有损失的地方。

              现在的商单看个乐。等私人到手后M5 ultra 啥水平就知道了。

              我看来看去感觉4卡R9700 才能干得漂亮 。

              虽然单卡R9700 跑MXFP4 的Qwen27B 已经非常好了。处于能用,爽用的级别。

              双R9700 会更爽一些的多并发。

              四卡R9700 + 超大内存,能跑一些flash 模型,向更实用迈进。

              1 条回复 最后回复
              0
              • Name ErrorN Name Error

                @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

                张光璞张
                张光璞张
                张光璞
                技术大牛 劳动模范
                编写于 最后由 编辑
                #33

                @Name-Error 说:

                @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

                我觉得mac studio + 1块 5090 才是最好的组合

                Name ErrorN 1 条回复 最后回复
                0
                • David ChenD David Chen

                  貴爆....都用到服務器主板了,剛剛被那ECC記憶體價格嚇一跳,結果顯卡是便宜貨..........太奇怪的組合了

                  Name ErrorN
                  Name ErrorN
                  Name Error
                  德高望重 劳动模范
                  编写于 最后由 编辑
                  #34

                  @David-Chen 我确实在犹豫要不要买这买多内存,但是用服务器主板的很大因素在于灵活性吧,即使 qwen3.8 flash 模型无法本地运行,那我也可以退而求其次运行 qwen3.8 27b

                  服务器主板也是相对的便宜很多了,特别是意外发现的 EPYC 9B14 cpu。

                  内存条的价格让可选面变得非常窄。

                  1 条回复 最后回复
                  0
                  • Name ErrorN
                    Name ErrorN
                    Name Error
                    德高望重 劳动模范
                    编写于 最后由 编辑
                    #35

                    感觉博主有句话是对的,让ai去折腾就行了。

                    我也挺看好 r9700 这个显卡,毕竟还有质保,价格也没有涨到离谱。

                    1 条回复 最后回复
                    0
                    • 张光璞张 张光璞

                      @Name-Error 说:

                      @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

                      我觉得mac studio + 1块 5090 才是最好的组合

                      Name ErrorN
                      Name ErrorN
                      Name Error
                      德高望重 劳动模范
                      编写于 最后由 编辑
                      #36

                      @张光璞 mac studio + 1块 5090 有谁实验过吗?

                      张光璞张 1 条回复 最后回复
                      0
                      • Name ErrorN Name Error

                        @张光璞 mac studio + 1块 5090 有谁实验过吗?

                        张光璞张
                        张光璞张
                        张光璞
                        技术大牛 劳动模范
                        编写于 最后由 编辑
                        #37

                        @Name-Error 说:

                        @张光璞 mac studio + 1块 5090 有谁实验过吗?

                        我记得一个半月前开源社区有个方案是mac + nvidia的

                        1 条回复 最后回复
                        0
                        • I
                          I
                          iamvirus
                          德高望重 劳动模范
                          编写于 最后由 编辑
                          #38

                          我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊

                          A Name ErrorN 2 条回复 最后回复
                          0
                          • I iamvirus

                            我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊

                            A
                            A
                            applejuice
                            技术大牛 劳动模范
                            编写于 最后由 编辑
                            #39

                            @iamvirus 4卡 r9700 怎样配置法?

                            I 1 条回复 最后回复
                            0
                            • A applejuice

                              @iamvirus 4卡 r9700 怎样配置法?

                              I
                              I
                              iamvirus
                              德高望重 劳动模范
                              编写于 最后由 编辑
                              #40

                              @applejuice 我现在是跑两套qwen3.8-27b,长时间10-16并发,基本在900-1000token/s 现在研究本地agent团队如何高效完成任务,现在是力大砖飞,猛猛让它往不同路径上去撞南墙,速度快就是这么任性了。
                              等新主板和CPU到了上tp=4玩玩,但是目前我感觉27b真牛。估计moe要超过也不会高太多智能,要有opus5.5我才觉得值。

                              1 条回复 最后回复
                              0
                              • I iamvirus

                                我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊

                                Name ErrorN
                                Name ErrorN
                                Name Error
                                德高望重 劳动模范
                                编写于 最后由 编辑
                                #41

                                @iamvirus 什么品牌,多少入的?涨价前?

                                1 条回复 最后回复
                                0
                                • XiaoteX
                                  XiaoteX
                                  Xiaote
                                  编写于 最后由 编辑
                                  #42

                                  🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!

                                  奖励凭证:热议 +3 分 · 编号 h1915-4026-1(系统自动发放,显示稍有延迟)

                                  老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                                  1 条回复 最后回复
                                  0

                                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                  有了你的建议,这篇帖子会更精彩哦 💗

                                  注册 登录
                                  回复
                                  • 在新帖中回复
                                  登录后回复
                                  • 从旧到新
                                  • 从新到旧
                                  • 最多赞同


                                  • 登录

                                  • 登录或注册以进行搜索。
                                  • 第一个帖子
                                    最后一个帖子
                                  0
                                  • 版块
                                  • 最新
                                  • 标签
                                  • 热门
                                  • 用户
                                  • 群组