跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. [实测]m5 ultra 256G ds v4.1 flash oq3.5 97toks | qwen3.8 flash next oq6 143toks

[实测]m5 ultra 256G ds v4.1 flash oq3.5 97toks | qwen3.8 flash next oq6 143toks

已定时 固定直到 2026/10/13 15:33 已锁定 已移动 精华 热议 LLM讨论区
apple-m5qwen-flashdeepseek
24 帖子 11 发布者 846 浏览 2 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • kos orK kos or

    Qwen3.8 Flash Next oQ6e MTP , Q6 品質應該蠻好的, 看能不能和 DeepSeek V4.1 Flash LSQ 相對測試 分享一下體感經驗 或者實例比較下 很好奇哪一個輸出品質比較好

    Jw ZhangJ
    Jw ZhangJ
    Jw Zhang
    德高望重
    编写于 最后由 编辑
    #4

    @kos-or 是需要对比一下质量。
    先上一个鹈鹕骑车
    Deepseek v4.1 flash
    Screenshot 2026-10-08 235105.png

    Qwen3.8 flash next
    Screenshot 2026-10-08 235543.png

    1 条回复 最后回复
    1
    • stxpnetS
      stxpnetS
      stxpnet
      超凡大师
      编写于 最后由 编辑
      #5
      画一个3D的 鹈鹕在海边公路骑自行车动画,用HTML5及必要的技术来展示,要求细节拉满,有美感,比例正确60帧不卡顿,默认从左后方向45度视角,有日夜切换按钮,太阳和月亮会随时间变化 运动(大概是20倍于现实中的时间流逝),鹈鹕左侧的路面增加一些花花草草,海里增加一些小鱼时不时的跃出水面,沙滩上有螃蟹及海螺,岸边有人散步,海里有些人游泳,远处有一些渔船,海上有一些海鸥随机飞翔。 夜晚天上加一些星星,保存为pelican.html(本机默认下载好three.js,如果没有也可以自动从中国CDN快速加载)。游戏要有server.py,启动后随机寻找一个本机的空闲端口作为服务器,并自动从默认浏览器打开让用户试玩.
      

      可以试试3D鹈鹕提示词,看多久可以完成,效果如何。

      双卡3090 PCIE 4.0 16X/16X

      白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
      夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
      张光璞张 1 条回复 最后回复
      0
      • ,terryT terry 固定了此主题
      • terryT
        terryT
        terry
        超级版主
        编写于 最后由 编辑
        #6

        格式工整,发下图片,照片,会更好。因为稀缺M5 Ultra,直接置顶,欢迎大家考证。

        油管:https://www.youtube.com/@抡锤者

        1 条回复 最后回复
        0
        • 张光璞张
          张光璞张
          张光璞
          技术大牛 劳动模范
          编写于 最后由 编辑
          #7

          昨天刚说完,Mac 的优化也是好起来了,今天就能看到成绩。

          看来512G 还是很有价值

          1 条回复 最后回复
          0
          • stxpnetS stxpnet
            画一个3D的 鹈鹕在海边公路骑自行车动画,用HTML5及必要的技术来展示,要求细节拉满,有美感,比例正确60帧不卡顿,默认从左后方向45度视角,有日夜切换按钮,太阳和月亮会随时间变化 运动(大概是20倍于现实中的时间流逝),鹈鹕左侧的路面增加一些花花草草,海里增加一些小鱼时不时的跃出水面,沙滩上有螃蟹及海螺,岸边有人散步,海里有些人游泳,远处有一些渔船,海上有一些海鸥随机飞翔。 夜晚天上加一些星星,保存为pelican.html(本机默认下载好three.js,如果没有也可以自动从中国CDN快速加载)。游戏要有server.py,启动后随机寻找一个本机的空闲端口作为服务器,并自动从默认浏览器打开让用户试玩.
            

            可以试试3D鹈鹕提示词,看多久可以完成,效果如何。

            张光璞张
            张光璞张
            张光璞
            技术大牛 劳动模范
            编写于 最后由 编辑
            #8

            @stxpnet 说:

            画一个3D的 鹈鹕在海边公路骑自行车动画,用HTML5及必要的技术来展示,要求细节拉满,有美感,比例正确60帧不卡顿,默认从左后方向45度视角,有日夜切换按钮,太阳和月亮会随时间变化 运动(大概是20倍于现实中的时间流逝),鹈鹕左侧的路面增加一些花花草草,海里增加一些小鱼时不时的跃出水面,沙滩上有螃蟹及海螺,岸边有人散步,海里有些人游泳,远处有一些渔船,海上有一些海鸥随机飞翔。 夜晚天上加一些星星,保存为pelican.html(本机默认下载好three.js,如果没有也可以自动从中国CDN快速加载)。游戏要有server.py,启动后随机寻找一个本机的空闲端口作为服务器,并自动从默认浏览器打开让用户试玩.
            

            可以试试3D鹈鹕提示词,看多久可以完成,效果如何。

            双7900XTX 35分钟

            image.jpeg

            image.jpeg

            babyedi3B 1 条回复 最后回复
            2
            • ,Marck WongM Marck Wong 引用了 此主题
            • Jw ZhangJ
              Jw ZhangJ
              Jw Zhang
              德高望重
              编写于 最后由 Jw Zhang 编辑
              #9

              @terry 谢谢版主置顶的支持
              更新晚了一天. 因为整理这个补丁和文档还是需要花些时间的,特别是需要审核检查错误,花了一些时间才把补丁和复现过程整理好. 上传到hf 又花了一些时间, 修改那个模型卡片的参数也折腾了一下才弄明白用法.

              下一步的优化方向, 我还是想从减少内存方面出发, 因为统一内存还是很宝贵的, 当前版本节省的8G可以多做很多事情, 用来开harness, 缓存都能换来实际的生产力. 所以下一步还是看看能不能再压榨一点出来.

              大家有什么好的优化方向, 或者对于量化质量的测试想法都发出来, 大家一起讨论, 让mac的ai生态可以活跃一些.

              3D鹈鹕 这个测试我稍后就更新一下模型表现, blender 我也想稍后测试一下效果. 等完成了就更新出来. coming soon slowly

              1 条回复 最后回复
              0
              • Henry Chiu 0H
                Henry Chiu 0H
                Henry Chiu 0
                编写于 最后由 Henry Chiu 0 编辑
                #10

                以平衡配置難易度+耗電+速度三者來看, mac studio是否好選擇? 而且它是一台很強的工作站(它很貴則是我的問題)

                babyedi3B 1 条回复 最后回复
                1
                • Jw ZhangJ
                  Jw ZhangJ
                  Jw Zhang
                  德高望重
                  编写于 最后由 Jw Zhang 编辑
                  #11

                  确实忘记提功耗了,因为吐字时的功耗才 60w 预填充阶段瞬时 120w 所以我现在已经不考虑功耗问题了。

                  算力的选择我现在确实有点后悔没有选择 80GPU 的型号,实测感觉 64GPU 填不满 1.2T 带宽。这只是体感并没有测试,如果有 80GPU 型号的坛友也测试一下我的猜测。后续我可能考虑入一台 80GPU 的型号

                  价格确实是贵的,但是从性价比讲,对我个人来说 mac studio 比 dgx spark x2 要有用一些

                  Henry Chiu 0H 1 条回复 最后回复
                  2
                  • Jw ZhangJ Jw Zhang

                    确实忘记提功耗了,因为吐字时的功耗才 60w 预填充阶段瞬时 120w 所以我现在已经不考虑功耗问题了。

                    算力的选择我现在确实有点后悔没有选择 80GPU 的型号,实测感觉 64GPU 填不满 1.2T 带宽。这只是体感并没有测试,如果有 80GPU 型号的坛友也测试一下我的猜测。后续我可能考虑入一台 80GPU 的型号

                    价格确实是贵的,但是从性价比讲,对我个人来说 mac studio 比 dgx spark x2 要有用一些

                    Henry Chiu 0H
                    Henry Chiu 0H
                    Henry Chiu 0
                    编写于 最后由 编辑
                    #12

                    @Jw-Zhang 你覺得作為LLM server+工作站( coding+3D+媒體), m5 ultra 256G是否高性價比? 因為看著網友各種GPU+高系統RAM的配置strata跑qwen3.8 flash next, 雖然入門價格低, 速度也快, 但只能跑1-2個模型, 配上linux/ubuntu也很多軟體跑不了/要折騰, 還要算上全速跑的600W起跳耗電, 每月電費至少多500-600塊, 還有噪音+熱量, 想想看其實mac studio挺值得, 而且omlx/vllm生態會一路優化進步.

                    Jw ZhangJ 1 条回复 最后回复
                    0
                    • Henry Chiu 0H Henry Chiu 0

                      @Jw-Zhang 你覺得作為LLM server+工作站( coding+3D+媒體), m5 ultra 256G是否高性價比? 因為看著網友各種GPU+高系統RAM的配置strata跑qwen3.8 flash next, 雖然入門價格低, 速度也快, 但只能跑1-2個模型, 配上linux/ubuntu也很多軟體跑不了/要折騰, 還要算上全速跑的600W起跳耗電, 每月電費至少多500-600塊, 還有噪音+熱量, 想想看其實mac studio挺值得, 而且omlx/vllm生態會一路優化進步.

                      Jw ZhangJ
                      Jw ZhangJ
                      Jw Zhang
                      德高望重
                      编写于 最后由 编辑
                      #13

                      @Henry-Chiu-0 我觉需要规划好内存的使用,多少给 LLM,多少留给生产力工具,harness 工具也要留充足的内存,是无头服务器还是主力机工作站。如果主力模型是 deepseek 4.1 可能留给生产力工具的内存就不太多了,后续如果有 320G 统一内存型号,我觉得可选,512G 我觉得没有性价比了,我能想到的需求是大型 3D 视频工作站本地模型+建模渲染工具,可能需要 512G

                      关于这个 1.2T 的带宽,它是整块SoC的峰值带宽。在Ultra芯片上跑单路解码流,基本无法把带宽跑满,根据我的测试结果推测,通常只能达到峰值的70%-80%。MoE模型会进一步降低带宽利用率:每个token需要读取分散分布的不同专家权重,内存读取并非连续访问。

                      1 条回复 最后回复
                      3
                      • ,系统 取消固定了此主题
                      • 张光璞张
                        张光璞张
                        张光璞
                        技术大牛 劳动模范
                        编写于 最后由 编辑
                        #14

                        @Jw-Zhang 说:

                        852.jpeg

                        851.jpeg

                        无头服务器,就这样了

                        昨天逛街去苹果店看了一下mac studio ,还是很帅的。比想象的大,可能见mini 见多了

                        1 条回复 最后回复
                        0
                        • wayne panW
                          wayne panW
                          wayne pan
                          编写于 最后由 编辑
                          #15

                          太好了,我的mac studio都不知道今年能不能到货。到货直接抄作业!✌️

                          terryT 1 条回复 最后回复
                          1
                          • ,terryT terry 固定了此主题
                          • XiaoteX
                            XiaoteX
                            Xiaote
                            编写于 最后由 编辑
                            #16

                            ⭐ 版主审定:本帖设为精华,作者 +5 积分奖励,希望再接再厉!

                            奖励凭证:精华 +5 分 · 编号 f2190-4369-1(系统自动发放,显示稍有延迟)

                            老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                            1 条回复 最后回复
                            0
                            • terryT
                              terryT
                              terry
                              超级版主
                              编写于 最后由 编辑
                              #17

                              经过发图补充之后,本帖意义大增,图片实拍的重要性不言而喻。我们这些人能看得懂是实测,但是论坛很多匿名房客,他们更愿意看到带有图片的文章,不然就以为是AI。

                              苹果小主机的性能还是很强,M5之后的规格大幅提升,社区生态也不错,最主要是硬件口碑,生态口碑,顶级技术有人愿意为了小众生态折腾。

                              油管:https://www.youtube.com/@抡锤者

                              1 条回复 最后回复
                              0
                              • wayne panW wayne pan

                                太好了,我的mac studio都不知道今年能不能到货。到货直接抄作业!✌️

                                terryT
                                terryT
                                terry
                                超级版主
                                编写于 最后由 编辑
                                #18

                                @wayne-pan 都是有钱人,M5 ultra实际上96G的版本都很有意义,256和512玩嗨了。

                                油管:https://www.youtube.com/@抡锤者

                                1 条回复 最后回复
                                0
                                • Henry Chiu 0H
                                  Henry Chiu 0H
                                  Henry Chiu 0
                                  编写于 最后由 编辑
                                  #19

                                  如果跑comfyui速度能跟上N卡, 真是神機了, 期望社区生态能開發出來

                                  墙内人墙 babyedi3B 2 条回复 最后回复
                                  1
                                  • Henry Chiu 0H Henry Chiu 0

                                    如果跑comfyui速度能跟上N卡, 真是神機了, 期望社区生态能開發出來

                                    墙内人墙
                                    墙内人墙
                                    墙内人
                                    编写于 最后由 编辑
                                    #20

                                    @Henry-Chiu-0 ComfyUI对N卡的优化一直事最顶级的。但无法突破物理限制。

                                    1 条回复 最后回复
                                    1
                                    • XiaoteX
                                      XiaoteX
                                      Xiaote
                                      编写于 最后由 编辑
                                      #21

                                      🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!

                                      奖励凭证:热议 +3 分 · 编号 h2190-4369-1(系统自动发放,显示稍有延迟)

                                      老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                                      1 条回复 最后回复
                                      0
                                      • 张光璞张 张光璞

                                        @stxpnet 说:

                                        画一个3D的 鹈鹕在海边公路骑自行车动画,用HTML5及必要的技术来展示,要求细节拉满,有美感,比例正确60帧不卡顿,默认从左后方向45度视角,有日夜切换按钮,太阳和月亮会随时间变化 运动(大概是20倍于现实中的时间流逝),鹈鹕左侧的路面增加一些花花草草,海里增加一些小鱼时不时的跃出水面,沙滩上有螃蟹及海螺,岸边有人散步,海里有些人游泳,远处有一些渔船,海上有一些海鸥随机飞翔。 夜晚天上加一些星星,保存为pelican.html(本机默认下载好three.js,如果没有也可以自动从中国CDN快速加载)。游戏要有server.py,启动后随机寻找一个本机的空闲端口作为服务器,并自动从默认浏览器打开让用户试玩.
                                        

                                        可以试试3D鹈鹕提示词,看多久可以完成,效果如何。

                                        双7900XTX 35分钟

                                        image.jpeg

                                        image.jpeg

                                        babyedi3B
                                        babyedi3B
                                        babyedi3
                                        编写于 最后由 编辑
                                        #22

                                        @张光璞 请问佬友,双XTX用的什么模型?效果很好啊。速度50t/s不算很快,是strata技术吗

                                        1 条回复 最后回复
                                        0
                                        • Henry Chiu 0H Henry Chiu 0

                                          以平衡配置難易度+耗電+速度三者來看, mac studio是否好選擇? 而且它是一台很強的工作站(它很貴則是我的問題)

                                          babyedi3B
                                          babyedi3B
                                          babyedi3
                                          编写于 最后由 编辑
                                          #23

                                          @Henry-Chiu-0 几万块的东西一台飞度的钱了,我也研究很久。基本确定是最好的解决方案。512G版本估计要12w,而且要排队几个月,GPU CPU相同的情况下,跑量化Q6速度很慢,反而意义没那么大。现在甜点基本就是dsv4f 和 qwen3.8-next-flash-Q6

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组