跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. mac m5 ultra上线中国官网。1.2T显存带宽,256GB版本8.6万

mac m5 ultra上线中国官网。1.2T显存带宽,256GB版本8.6万

已定时 已固定 已锁定 已移动 AI硬件
mac
49 帖子 16 发布者 1.2k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • williamlouisW williamlouis

    还是得靠粉丝顶。如果买了做本地算力。我建议还是算了。
    8.6W 搞了都不如 充值个订阅。爽玩还没噪音。
    1W 上个 Mac mini M6 之后充值个 靠谱的在线订阅 或 直接充值 DeepSeek 是个更好的玩法。

    Rex FanR 离线
    Rex FanR 离线
    Rex Fan
    编写于 最后由 编辑
    #21

    @williamlouis 现在买的人想法是玩两年,白嫖算力,如果后期苹果拿不到足够的内存颗粒,没准还能加价卖

    williamlouisW 1 条回复 最后回复
    0
    • Rex FanR Rex Fan

      @williamlouis 现在买的人想法是玩两年,白嫖算力,如果后期苹果拿不到足够的内存颗粒,没准还能加价卖

      williamlouisW 离线
      williamlouisW 离线
      williamlouis
      超级版主
      编写于 最后由 编辑
      #22

      @Rex-Fan 兄弟 投资8.6W 回报率能上20%就可以玩。加油

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      1 条回复 最后回复
      0
      • kop wangK kop wang
        编者注:此文完全是数字推演,不代表真实硬件能力。笔者不对信息准确度负责。
        信源会罗列在文章下方
        

        结合256GB统一内存来看,目前比较有价值的就是运行ds-v4-flash-0731,恰巧最近omlx有过一次版本更新,官方性能数据如下:信息来源
        f917c000-707f-43a1-b0a1-23bd464ed4e9-image.jpeg

        然后,M5 Ultra的内存带宽是M3 Ultra的接近1.5倍。又根据苹果官网数据,其prefill性能是M3 Ultra的4倍(ollama数据,框架不同,只能参考)

        所以大概预期,M5 Ultra运行ds-v4-flash-0731 Q4的大致性能是:

        prefill

        上下文 M3U(v0.5.4rc2) 3× 4×
        1K 531.0 ~1590 ~2120
        4K 486.5 ~1460 ~1950
        64K 468.5 ~1410 ~1870
        128K 438.6 ~1320 ~1750

        decode

        场景 M3 Ultra M5 Ultra 预计
        MTP 关,1K 27.6 ~40
        MTP 关,4K 25.8 ~38
        MTP 关,64K 22.8 ~33
        MTP 关,128K 21.3 ~31

        信息来源:
        https://newreleases.io/project/github/jundot/omlx/release/v0.5.4rc2
        https://www.apple.com.cn/mac-studio/
        https://omlx.ai/compare

        cc tgoC 离线
        cc tgoC 离线
        cc tgo
        编写于 最后由 编辑
        #23

        @kop-wang 已下单,要10月24日发货,等到货了实测一下。
        选的36核中央+80核图形,256GB内存,2TB存储空间
        小白一枚,看大佬YT视频找到的论坛,学习摸索中。
        应该能跑这两个模型吧。
        GLM-5.3-Flash 4bit
        DeepSeek-V4-Flash-0731 MXFP4

        J 1 条回复 最后回复
        1
        • cc tgoC cc tgo

          @kop-wang 已下单,要10月24日发货,等到货了实测一下。
          选的36核中央+80核图形,256GB内存,2TB存储空间
          小白一枚,看大佬YT视频找到的论坛,学习摸索中。
          应该能跑这两个模型吧。
          GLM-5.3-Flash 4bit
          DeepSeek-V4-Flash-0731 MXFP4

          J 离线
          J 离线
          johnnybegood
          劳动模范 技术大牛
          编写于 最后由 编辑
          #24

          @cc-tgo用学生认证可以怒省1万块?

          cc tgoC 1 条回复 最后回复
          0
          • J johnnybegood

            @cc-tgo用学生认证可以怒省1万块?

            cc tgoC 离线
            cc tgoC 离线
            cc tgo
            编写于 最后由 编辑
            #25

            @johnnybegood 用了教育优惠,原价90499,优惠后82749,怒省7750🤑

            J 1 条回复 最后回复
            0
            • cc tgoC cc tgo

              @johnnybegood 用了教育优惠,原价90499,优惠后82749,怒省7750🤑

              J 离线
              J 离线
              johnnybegood
              劳动模范 技术大牛
              编写于 最后由 编辑
              #26

              @cc-tgo 只是学生用的话, 确实有点浪费😲 😧

              cc tgoC 1 条回复 最后回复
              0
              • J johnnybegood

                @cc-tgo 只是学生用的话, 确实有点浪费😲 😧

                cc tgoC 离线
                cc tgoC 离线
                cc tgo
                编写于 最后由 编辑
                #27

                @johnnybegood 不懂代码的小白一枚😰 ,兴趣是最好的老师。😳

                张光璞张 1 条回复 最后回复
                0
                • cc tgoC cc tgo

                  @johnnybegood 不懂代码的小白一枚😰 ,兴趣是最好的老师。😳

                  张光璞张 离线
                  张光璞张 离线
                  张光璞
                  劳动模范
                  编写于 最后由 编辑
                  #28

                  @cc-tgo 说:

                  @johnnybegood 不懂代码的小白一枚😰 ,兴趣是最好的老师。😳

                  财力才是最好的老师

                  cc tgoC 1 条回复 最后回复
                  0
                  • 张光璞张 张光璞

                    @cc-tgo 说:

                    @johnnybegood 不懂代码的小白一枚😰 ,兴趣是最好的老师。😳

                    财力才是最好的老师

                    cc tgoC 离线
                    cc tgoC 离线
                    cc tgo
                    编写于 最后由 编辑
                    #29

                    @张光璞 😌 男人的大玩具

                    张光璞张 1 条回复 最后回复
                    0
                    • cc tgoC cc tgo

                      @张光璞 😌 男人的大玩具

                      张光璞张 离线
                      张光璞张 离线
                      张光璞
                      劳动模范
                      编写于 最后由 编辑
                      #30

                      @cc-tgo 说:

                      @张光璞 😌 男人的大玩具

                      整,到时候把数据发论坛上。

                      cc tgoC 1 条回复 最后回复
                      0
                      • 张光璞张 张光璞

                        @cc-tgo 说:

                        @张光璞 😌 男人的大玩具

                        整,到时候把数据发论坛上。

                        cc tgoC 离线
                        cc tgoC 离线
                        cc tgo
                        编写于 最后由 编辑
                        #31

                        @张光璞 没问题,大家想测啥可以说,到时我装上测测,目前自己会先装GLM-5.3-Flash 4bit,DeepSeek-V4-Flash-0731 MXFP4

                        张光璞张 1 条回复 最后回复
                        0
                        • cc tgoC cc tgo

                          @张光璞 没问题,大家想测啥可以说,到时我装上测测,目前自己会先装GLM-5.3-Flash 4bit,DeepSeek-V4-Flash-0731 MXFP4

                          张光璞张 离线
                          张光璞张 离线
                          张光璞
                          劳动模范
                          编写于 最后由 编辑
                          #32

                          @cc-tgo 说:

                          @张光璞 没问题,大家想测啥可以说,到时我装上测测,目前自己会先装GLM-5.3-Flash 4bit,DeepSeek-V4-Flash-0731 MXFP4

                          我对4bit 的模型总是有种天然的不信任感。 我担心智力不够 。

                          1 条回复 最后回复
                          0
                          • ,系统 取消固定了此主题
                          • linkdesuL 离线
                            linkdesuL 离线
                            linkdesu
                            编写于 最后由 编辑
                            #33

                            关键还是看个人生产力吧,如果业务收入多,又是跑在 mac 上,搞个集群也合理。不过这样的机会太少了,我之前只看过 X 上有个老哥做预测市场套利买了一堆 mac studio 在跑 😓

                            1 条回复 最后回复
                            0
                            • williamlouisW williamlouis

                              还是得靠粉丝顶。如果买了做本地算力。我建议还是算了。
                              8.6W 搞了都不如 充值个订阅。爽玩还没噪音。
                              1W 上个 Mac mini M6 之后充值个 靠谱的在线订阅 或 直接充值 DeepSeek 是个更好的玩法。

                              C 离线
                              C 离线
                              coolstar
                              劳动模范
                              编写于 最后由 编辑
                              #34

                              @williamlouis 说:

                              还是得靠粉丝顶。如果买了做本地算力。我建议还是算了。
                              8.6W 搞了都不如 充值个订阅。爽玩还没噪音。
                              1W 上个 Mac mini M6 之后充值个 靠谱的在线订阅 或 直接充值 DeepSeek 是个更好的玩法。

                              嗯,上到32g,需要时也能跑个小模型

                              1 条回复 最后回复
                              0
                              • williamlouisW 离线
                                williamlouisW 离线
                                williamlouis
                                超级版主
                                编写于 最后由 编辑
                                #35

                                投个10W-20W 搞个本地算力我也尝试了。只能作为备用算力。
                                玩了,也爽了。一顿狂测。
                                结局还是在线 AI 工作。本地算力作为折腾目标。备用算力,配合开发一些垃圾自动化。零收益。主因是大内网。很多操作无法实现。实现也极度不稳定。不如 VPS+在线 AI 工作。
                                新的 mac mini m6 已经下单了一台。基础配置。先测测值得提升不。看价格还凑合。

                                个人主页:xlkj.org Telegram https://t.me/xlkjorg

                                C 1 条回复 最后回复
                                0
                                • williamlouisW williamlouis

                                  投个10W-20W 搞个本地算力我也尝试了。只能作为备用算力。
                                  玩了,也爽了。一顿狂测。
                                  结局还是在线 AI 工作。本地算力作为折腾目标。备用算力,配合开发一些垃圾自动化。零收益。主因是大内网。很多操作无法实现。实现也极度不稳定。不如 VPS+在线 AI 工作。
                                  新的 mac mini m6 已经下单了一台。基础配置。先测测值得提升不。看价格还凑合。

                                  C 离线
                                  C 离线
                                  coolstar
                                  劳动模范
                                  编写于 最后由 编辑
                                  #36

                                  @williamlouis 说:

                                  投个10W-20W 搞个本地算力我也尝试了。只能作为备用算力。
                                  玩了,也爽了。一顿狂测。
                                  结局还是在线 AI 工作。本地算力作为折腾目标。备用算力,配合开发一些垃圾自动化。零收益。主因是大内网。很多操作无法实现。实现也极度不稳定。不如 VPS+在线 AI 工作。
                                  新的 mac mini m6 已经下单了一台。基础配置。先测测值得提升不。看价格还凑合。

                                  老大,您的mini m6是多少内存的呀?是偶尔跑跑小模型,还是和老特一样就挂hermes等做前端总入口?

                                  1 条回复 最后回复
                                  0
                                  • rich kingR 离线
                                    rich kingR 离线
                                    rich king
                                    编写于 最后由 编辑
                                    #37

                                    我预定了个96g的 m5 ultra是不是很sb?

                                    terryT kop wangK rock shiR 3 条回复 最后回复
                                    1
                                    • rich kingR rich king

                                      我预定了个96g的 m5 ultra是不是很sb?

                                      terryT 离线
                                      terryT 离线
                                      terry
                                      超级版主
                                      编写于 最后由 编辑
                                      #38

                                      @rich-king 如果你就跑跑qwen 27b为什么会傻呢?

                                      油管:https://www.youtube.com/@抡锤者

                                      rich kingR 1 条回复 最后回复
                                      0
                                      • rich kingR rich king

                                        我预定了个96g的 m5 ultra是不是很sb?

                                        kop wangK 离线
                                        kop wangK 离线
                                        kop wang
                                        超级版主
                                        编写于 最后由 编辑
                                        #39

                                        @rich-king 如果mlx框架优化发力,理论上限,从硬件规格上来讲 96GB的m5 ultra满血版的LLM性能不亚于目前相同价格的rtx pro 5000

                                        但是你得到了双倍的ram,以及一整套mac设备。

                                        所以只能期待mlx框架发力了。

                                        虚心交流,一起进步

                                        rock shiR rich kingR terryT 3 条回复 最后回复
                                        0
                                        • rich kingR rich king

                                          我预定了个96g的 m5 ultra是不是很sb?

                                          rock shiR 离线
                                          rock shiR 离线
                                          rock shi
                                          劳动模范 德高望重
                                          编写于 最后由 编辑
                                          #40

                                          @rich-king 没事,我陪你一起sb

                                          主机:GPU0-3080 20g(H3),GPU1-3080 20g(Zimage)
                                          副机:2x2080ti 22g,vllm+qwen3.8-27b-fp8-16kv-128k

                                          rich kingR 1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组