mac m5 ultra上线中国官网。1.2T显存带宽，256GB版本8.6万

[kop wang]

已更新性能推演，纯云，不对结果负责。

[johnnybegood]

@terry 臣附议

[benton yi]

来自https://spark-arena.com/leaderboard
2 nodes的gb10集群运行FP8量化的0731版dsv4-flash（实际是FP8和NVFP4混合量化）的榜单能到50t/s（极限调教科技与狠活，关闭GUI），且512K可用，1M上下文有衰减。
GB10的社区在持续发力，而且大神不少，让这个小盒子从发布到现在的含金量持续缓缓上升。个人感觉这次苹果发布的macmini/macstudio系列在ai战场略显疲态。

[Rex Fan]

@terry 硬件底子很好，框架拉了，512G 如果跑 GLM 如果能优化到 60tps 就是值的

[terry]

@Rex-Fan 苹果出来了，但是似乎苹果很贵，还没有老黄的机器有性价比。

[Rex Fan]

@terry 香港教育优惠 m5 ultra + 256g 人民币 58880 ，512g（如果不调整价格）差不多10w。性能保底能用和spark集群打平，之后生态起来了估计反超。缺点是 m5 设计的架构设计的太早了，精度还以 FP16/INT8 优化为主。估计要到 m7 才会给更实用的硬件原生 4-bit 张量优化

[terry]

@Rex-Fan 现在的本地4比特也只是权重量化，推理还是BF16，苹果的问题是FP32卷积算力残疾，没有tensor core。跑LLM没问题，BF16抗打就行。

[Rex Fan]

@terry tensor core m5这一代加入了。苹果还有一个问题是没有类似SGLang、vllm之类的框架，投机解码也没有英伟达那边那么好用

[williamlouis]

还是得靠粉丝顶。如果买了做本地算力。我建议还是算了。
8.6W 搞了都不如 充值个订阅。爽玩还没噪音。
1W 上个 Mac mini M6 之后充值个 靠谱的在线订阅 或 直接充值 DeepSeek 是个更好的玩法。

[Rex Fan]

@williamlouis 现在买的人想法是玩两年，白嫖算力，如果后期苹果拿不到足够的内存颗粒，没准还能加价卖

[williamlouis]

@Rex-Fan 兄弟 投资8.6W 回报率能上20%就可以玩。加油

[cc tgo]

@kop-wang 已下单，要10月24日发货，等到货了实测一下。
选的36核中央+80核图形，256GB内存，2TB存储空间
小白一枚，看大佬YT视频找到的论坛，学习摸索中。
应该能跑这两个模型吧。
GLM-5.3-Flash 4bit
DeepSeek-V4-Flash-0731 MXFP4

[johnnybegood]

@cc-tgo用学生认证可以怒省1万块？

[cc tgo]

@johnnybegood 用了教育优惠，原价90499，优惠后82749，怒省7750

[johnnybegood]

@cc-tgo 只是学生用的话， 确实有点浪费

[cc tgo]

@johnnybegood 不懂代码的小白一枚 ，兴趣是最好的老师。

[张光璞]

@cc-tgo 说:

@johnnybegood 不懂代码的小白一枚 ，兴趣是最好的老师。

财力才是最好的老师

[cc tgo]

@张光璞 男人的大玩具

[张光璞]

@cc-tgo 说:

@张光璞 男人的大玩具

整，到时候把数据发论坛上。

[cc tgo]

@张光璞 没问题，大家想测啥可以说，到时我装上测测，目前自己会先装GLM-5.3-Flash 4bit，DeepSeek-V4-Flash-0731 MXFP4