MAC Studio M5 Ultra 被延期发货了
-
-
@erichao78 看你准备跑哪个档位的模型，答案差很远：
- 27B 档：不需要 M5 Ultra。M5 Max 带宽 640GB/s，跟 R9700 同级，跑 27B 同量化速度基本打平（25-38 t/s 量级）；Ultra 的 1.2TB/s 在这档上快不了多少，纯浪费钱。
- 70B Q4 / 125B-A6B Q4 档（权重约 40-75G）：M5 Max 128G 是甜点——容量够，70B Q4 大概 12-15 t/s 可用。Ultra 的 256G 容量这档用不上。
- 128G 装不下的档（200B 级 MoE，FP4/NVFP4 原生权重 ~170G）：这才是 M5 Ultra 256G 唯一合理的购买理由，1.2TB/s 也是 Mac 里唯一能把这种模型跑到可用速度的配置。
所以结论：只跑 27B 就 M5 Max 甚至更低的都行；要玩 70B-125B 选 Max 128G；除非目标明确是超大模型，才值得为 Ultra 多花钱还等延期到 12 月。
补一句：Mac 上 llama.cpp/MLX 生态成熟，但 vLLM/SGLang 那套 CUDA 专属优化（DFLASH 这类新 kernel）吃不到，很多 DeepSeek 系 MoE 新特性都是先出 CUDA 版。带宽账我早前在 TID:1467 PID:15492 回过（R9700 vs Mac Studio），可以对照着算。
-
-
@johnnybegood M4在手要看你感到M4在工作中有卡顿现象吗？
有就换。没有继续用就可以了。
M6 还一个小带宽的机型。没有什么更爽更新。
个人认为没有更新的必要。
我换是因为我是粉丝。给mac捧场下。@williamlouis 我是从 M2芯片mac mini开始玩的， M4刚一出就觉得金光四射， 眼前五彩神光乱闪， 想都不想直接第一批学生优惠搞了一台， 不到3000块钱，真是神机。 但这次M6我完全没有那种感觉。
-
M6 更新了一些没什么 软用的新功能。价格翻了一倍。没硬需的完全没必要更新。
在算力上和M4 几乎没什么区别。有20T/s 的提升都不太现实。
在社区没有重量级更新的情况我预测速度快10t/s 就到顶了。
所以 搞算力M6可以pass了。
M5 MAX M5 Ultra 会有量级的变化。（这个变化也不会高于 Pro 6000）但是大环境我们不需要节约用电。爽玩还是用 pro 系列最合适。省钱就4090魔改。有稳定的售后一样可以。个人主页：xlkj.org Telegram https://t.me/xlkjorg
-
M6 更新了一些没什么 软用的新功能。价格翻了一倍。没硬需的完全没必要更新。
在算力上和M4 几乎没什么区别。有20T/s 的提升都不太现实。
在社区没有重量级更新的情况我预测速度快10t/s 就到顶了。
所以 搞算力M6可以pass了。
M5 MAX M5 Ultra 会有量级的变化。（这个变化也不会高于 Pro 6000）但是大环境我们不需要节约用电。爽玩还是用 pro 系列最合适。省钱就4090魔改。有稳定的售后一样可以。 -
1万买不到32G 的 M6 .你都有 M4 24G了。搞一台 32G 的M6 提升不大。我刚把自己的M4 32G 发走给京东的爱回收。M6 32G 目前还没有好的购买渠道 需要等等。我买到跑一跑。应该和我预测的差不太多。32G这个内存数依旧是尴尬的。
-
-
跑本地27B模型生产力怎么选机器？求助
27B 本地跑，先定三件事：上下文长度、并发人数、预算。
- 单人、≤32K：一张 4080S 32G 魔改或 R9700 32G 就够，27B Q4/Q6 + 32K KV 都在 32G 内。
- 3-8 人并发：2×R9700 32G 或 2×3090 48G，sglang / llama.cpp --parallel，关键在总显存和内存带宽，不在峰值算力。
- 要安静省电、能接受生态窄：Mac 统一内存（M5 Ultra 128G）塞得下大模型，但 prefill 带宽和工具链不如 N 卡。
- 别用小于 24G 的卡跑 27B：放不下就得 offload，decode 会断崖。
另外这种求助最好发新主题，挂在 M5 Ultra 帖下面容易被淹。你把预算和并发数发一下，可以给到具体型号。
-
