跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?

4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?

已定时 已固定 已锁定 已移动 热议 AI硬件
r9700多卡部署
42 帖子 10 发布者 798 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Name ErrorN Name Error

    @张光璞 好像是 Mac 的 prefill 太慢了。

    实际上我研究了4个开源仓库:

    https://github.com/tonyd2wild/Qwen38-Flash-Next-4x3090
    https://github.com/loktar00/qwen38-flash-next-vllm-3090-recipe
    https://github.com/MinChen05/Qwen3.8-Flash-Next-W4A16-4x3090
    【r9700方案】https://github.com/rickmellor/qwen3.8-flash-next-rdna4

    张光璞张
    张光璞张
    张光璞
    技术大牛 劳动模范
    编写于 最后由 编辑
    #32

    @Name-Error 说:

    @张光璞 好像是 Mac 的 prefill 太慢了。

    实际上我研究了4个开源仓库:

    https://github.com/tonyd2wild/Qwen38-Flash-Next-4x3090
    https://github.com/loktar00/qwen38-flash-next-vllm-3090-recipe
    https://github.com/MinChen05/Qwen3.8-Flash-Next-W4A16-4x3090
    【r9700方案】https://github.com/rickmellor/qwen3.8-flash-next-rdna4

    这个不要想,相同工艺,不可能你家又快又省电。 mac这么省电一定会有损失的地方。

    现在的商单看个乐。等私人到手后M5 ultra 啥水平就知道了。

    我看来看去感觉4卡R9700 才能干得漂亮 。

    虽然单卡R9700 跑MXFP4 的Qwen27B 已经非常好了。处于能用,爽用的级别。

    双R9700 会更爽一些的多并发。

    四卡R9700 + 超大内存,能跑一些flash 模型,向更实用迈进。

    1 条回复 最后回复
    0
    • Name ErrorN Name Error

      @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

      张光璞张
      张光璞张
      张光璞
      技术大牛 劳动模范
      编写于 最后由 编辑
      #33

      @Name-Error 说:

      @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

      我觉得mac studio + 1块 5090 才是最好的组合

      Name ErrorN 1 条回复 最后回复
      0
      • David ChenD David Chen

        貴爆....都用到服務器主板了,剛剛被那ECC記憶體價格嚇一跳,結果顯卡是便宜貨..........太奇怪的組合了

        Name ErrorN
        Name ErrorN
        Name Error
        德高望重 劳动模范
        编写于 最后由 编辑
        #34

        @David-Chen 我确实在犹豫要不要买这买多内存,但是用服务器主板的很大因素在于灵活性吧,即使 qwen3.8 flash 模型无法本地运行,那我也可以退而求其次运行 qwen3.8 27b

        服务器主板也是相对的便宜很多了,特别是意外发现的 EPYC 9B14 cpu。

        内存条的价格让可选面变得非常窄。

        1 条回复 最后回复
        0
        • Name ErrorN
          Name ErrorN
          Name Error
          德高望重 劳动模范
          编写于 最后由 编辑
          #35

          感觉博主有句话是对的,让ai去折腾就行了。

          我也挺看好 r9700 这个显卡,毕竟还有质保,价格也没有涨到离谱。

          1 条回复 最后回复
          0
          • 张光璞张 张光璞

            @Name-Error 说:

            @Bunsei 考虑过 Mac Studio M5 ultra 512GB,但是我放弃了。我预估要至少2台到4台才能有良好的速度和体验。

            我觉得mac studio + 1块 5090 才是最好的组合

            Name ErrorN
            Name ErrorN
            Name Error
            德高望重 劳动模范
            编写于 最后由 编辑
            #36

            @张光璞 mac studio + 1块 5090 有谁实验过吗?

            张光璞张 1 条回复 最后回复
            0
            • Name ErrorN Name Error

              @张光璞 mac studio + 1块 5090 有谁实验过吗?

              张光璞张
              张光璞张
              张光璞
              技术大牛 劳动模范
              编写于 最后由 编辑
              #37

              @Name-Error 说:

              @张光璞 mac studio + 1块 5090 有谁实验过吗?

              我记得一个半月前开源社区有个方案是mac + nvidia的

              1 条回复 最后回复
              0
              • I
                I
                iamvirus
                德高望重 劳动模范
                编写于 最后由 编辑
                #38

                我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊

                A Name ErrorN 2 条回复 最后回复
                0
                • I iamvirus

                  我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊

                  A
                  A
                  applejuice
                  技术大牛 劳动模范
                  编写于 最后由 编辑
                  #39

                  @iamvirus 4卡 r9700 怎样配置法?

                  I 1 条回复 最后回复
                  0
                  • A applejuice

                    @iamvirus 4卡 r9700 怎样配置法?

                    I
                    I
                    iamvirus
                    德高望重 劳动模范
                    编写于 最后由 编辑
                    #40

                    @applejuice 我现在是跑两套qwen3.8-27b,长时间10-16并发,基本在900-1000token/s 现在研究本地agent团队如何高效完成任务,现在是力大砖飞,猛猛让它往不同路径上去撞南墙,速度快就是这么任性了。
                    等新主板和CPU到了上tp=4玩玩,但是目前我感觉27b真牛。估计moe要超过也不会高太多智能,要有opus5.5我才觉得值。

                    1 条回复 最后回复
                    0
                    • I iamvirus

                      我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊

                      Name ErrorN
                      Name ErrorN
                      Name Error
                      德高望重 劳动模范
                      编写于 最后由 编辑
                      #41

                      @iamvirus 什么品牌,多少入的?涨价前?

                      1 条回复 最后回复
                      0
                      • XiaoteX
                        XiaoteX
                        Xiaote
                        编写于 最后由 编辑
                        #42

                        🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!

                        奖励凭证:热议 +3 分 · 编号 h1915-4026-1(系统自动发放,显示稍有延迟)

                        老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组