mac m5 ultra上线中国官网。1.2T显存带宽，256GB版本8.6万

[williamlouis]

投个10W-20W 搞个本地算力我也尝试了。只能作为备用算力。
玩了，也爽了。一顿狂测。
结局还是在线 AI 工作。本地算力作为折腾目标。备用算力，配合开发一些垃圾自动化。零收益。主因是大内网。很多操作无法实现。实现也极度不稳定。不如 VPS+在线 AI 工作。
新的 mac mini m6 已经下单了一台。基础配置。先测测值得提升不。看价格还凑合。

[coolstar]

@williamlouis 说:

投个10W-20W 搞个本地算力我也尝试了。只能作为备用算力。
玩了，也爽了。一顿狂测。
结局还是在线 AI 工作。本地算力作为折腾目标。备用算力，配合开发一些垃圾自动化。零收益。主因是大内网。很多操作无法实现。实现也极度不稳定。不如 VPS+在线 AI 工作。
新的 mac mini m6 已经下单了一台。基础配置。先测测值得提升不。看价格还凑合。

老大，您的mini m6是多少内存的呀？是偶尔跑跑小模型，还是和老特一样就挂hermes等做前端总入口？

[rich king]

我预定了个96g的 m5 ultra是不是很sb？

[terry]

@rich-king 如果你就跑跑qwen 27b为什么会傻呢？

[kop wang]

@rich-king 如果mlx框架优化发力，理论上限，从硬件规格上来讲 96GB的m5 ultra满血版的LLM性能不亚于目前相同价格的rtx pro 5000

但是你得到了双倍的ram，以及一整套mac设备。

所以只能期待mlx框架发力了。

[rock shi]

@rich-king 没事，我陪你一起sb

[rock shi]

@kop-wang rtx5000这个价格应该拿不到了，一个月前差不多

[rich king]

@terry 说:

@rich-king 如果你就跑跑qwen 27b为什么会傻呢？

哈哈，玩儿电脑这么多年，从来没买过这么贵的配件，难免患得患失……

[rich king]

@kop-wang 说:

@rich-king 如果mlx框架优化发力，理论上限，从硬件规格上来讲 96GB的m5 ultra满血版的LLM性能不亚于目前相同价格的rtx pro 5000

但是你得到了双倍的ram，以及一整套mac设备。

所以只能期待mlx框架发力了。

是啊，带宽不差，prefill也不算太差，我觉得完善就是时间问题，而且比较安静，体验应该比涡轮卡好多了，我不想耳朵过早失聪，嘿嘿……

[rich king]

@rock-shi 说:

@rich-king 没事，我陪你一起sb

好兄弟，到时候一起玩耍心得啊……

[rock shi]

@rich-king 哈哈必须的！让老特搞个社群他也不搞，这里交流起来还是慢半拍

[vosrock]

8万多，我为何不买几张4090？

[rich king]

@vosrock 说:

8万多，我为何不买几张4090？

更喜欢西装暴徒，懂？

[terry]

@kop-wang 未来可期，只能这么说，暂时不要和Pro5000碰瓷。

[terry]

@vosrock 我们这些屌丝，不要妄加揣测有钱人的生活，明星为什么买巴黎世家的塑料袋呢？