mac m5 ultra上线中国官网。1.2T显存带宽，256GB版本8.6万

[Tony Wang]

@terry

对一些小型工作室, 个人. 主要处理文字, 文档和图片的, 应该还是不错的选择. 比如律所, 会所, 编辑部, 作家等等.

[Tony Wang]

@Kirin-H.

dgx spark 内存带宽只有273G, 两台并行的话, 因为每层的计算结果都要交互, 速度肯定不能按X2 来计算. 而 M5 Ultra 内存带宽是1.2T.

所以, 只看LLM decode 的话, M5 Ultra肯定是要快不少的. Prefill 阶段, 结论就不是很明确了. 等等测试结果吧.

[张光璞]

@Tony-Wang 说:

@Kirin-H.

dgx spark 内存带宽只有273G, 两台并行的话, 因为每层的计算结果都要交互, 速度肯定不能按X2 来计算. 而 M5 Ultra 内存带宽是1.2T.

所以, 只看LLM decode 的话, M5 Ultra肯定是要快不少的. Prefill 阶段, 结论就不是很明确了. 等等测试结果吧.

以国内黄牛的尿性，这台机起码要到2027年下半年才能买到。

[kop wang]

已更新性能推演，纯云，不对结果负责。

[johnnybegood]

@terry 臣附议

[benton yi]

来自https://spark-arena.com/leaderboard
2 nodes的gb10集群运行FP8量化的0731版dsv4-flash（实际是FP8和NVFP4混合量化）的榜单能到50t/s（极限调教科技与狠活，关闭GUI），且512K可用，1M上下文有衰减。
GB10的社区在持续发力，而且大神不少，让这个小盒子从发布到现在的含金量持续缓缓上升。个人感觉这次苹果发布的macmini/macstudio系列在ai战场略显疲态。

[Rex Fan]

@terry 硬件底子很好，框架拉了，512G 如果跑 GLM 如果能优化到 60tps 就是值的

[terry]

@Rex-Fan 苹果出来了，但是似乎苹果很贵，还没有老黄的机器有性价比。

[Rex Fan]

@terry 香港教育优惠 m5 ultra + 256g 人民币 58880 ，512g（如果不调整价格）差不多10w。性能保底能用和spark集群打平，之后生态起来了估计反超。缺点是 m5 设计的架构设计的太早了，精度还以 FP16/INT8 优化为主。估计要到 m7 才会给更实用的硬件原生 4-bit 张量优化

[terry]

@Rex-Fan 现在的本地4比特也只是权重量化，推理还是BF16，苹果的问题是FP32卷积算力残疾，没有tensor core。跑LLM没问题，BF16抗打就行。

[Rex Fan]

@terry tensor core m5这一代加入了。苹果还有一个问题是没有类似SGLang、vllm之类的框架，投机解码也没有英伟达那边那么好用

[williamlouis]

还是得靠粉丝顶。如果买了做本地算力。我建议还是算了。
8.6W 搞了都不如 充值个订阅。爽玩还没噪音。
1W 上个 Mac mini M6 之后充值个 靠谱的在线订阅 或 直接充值 DeepSeek 是个更好的玩法。

[Rex Fan]

@williamlouis 现在买的人想法是玩两年，白嫖算力，如果后期苹果拿不到足够的内存颗粒，没准还能加价卖

[williamlouis]

@Rex-Fan 兄弟 投资8.6W 回报率能上20%就可以玩。加油

[cc tgo]

@kop-wang 已下单，要10月24日发货，等到货了实测一下。
选的36核中央+80核图形，256GB内存，2TB存储空间
小白一枚，看大佬YT视频找到的论坛，学习摸索中。
应该能跑这两个模型吧。
GLM-5.3-Flash 4bit
DeepSeek-V4-Flash-0731 MXFP4

[johnnybegood]

@cc-tgo用学生认证可以怒省1万块？

[cc tgo]

@johnnybegood 用了教育优惠，原价90499，优惠后82749，怒省7750

[johnnybegood]

@cc-tgo 只是学生用的话， 确实有点浪费

[cc tgo]

@johnnybegood 不懂代码的小白一枚 ，兴趣是最好的老师。

[张光璞]

@cc-tgo 说:

@johnnybegood 不懂代码的小白一枚 ，兴趣是最好的老师。

财力才是最好的老师