抡锤者

升级了0.3.8略有提升

大家好，我从今年元旦开始关注open claw的介绍和使用心得，碰巧过年时M5 max的MBP发布，就24期分期购入了128G的版本。本着先跑通再优化的思路先尝试了ollama，跑Qwen3.5 70B，学习openclaw。后来听大佬的话换到Qwen3.6 27B 8bit mlx。

之后夜以继日的沉浸在学习的快感里，可能是看多了本地ai内容的视频，被算法推了抡锤者大佬的视频，受益匪浅，很认同楼主的世界观，AI本质还是我们的工具，了解他，学习他，思考并找到他能给我们赋能的功能，相比原来chatgpt和gemini的纯文字交流来说，体会到了哥伦布的爽感。

目前我手里的硬件：AMDPC主机+32G内存+3090显卡，之前有过学习stable diffusion的经验，过年期间开始琢磨ltx2.3的其他玩家的玩法，只是偶尔生成参数控制不好内存溢出崩溃，敢在显卡涨价前在国外下单5090 32G，等下次回国带回来学习，希望如楼主所说能够更轻松的做一些音视频尝试。

M5 max上运行openclaw一段时间发现这家伙确实阿尔兹海默现象逐渐出现，现在更多的是使用Hermes，不同的架构还是缓解很多。现状搭配是M5 Max专职运行oMLX，提供api给家里每个人的openclaw或者hermes使用，这两个月在公司运营，法务梳理，业务拓展上榜了我很多。业务生成音视频我也是告诉Hermes，让他去调用PC的comfy ui api完成，真是挺好玩的。

由于家里所有成员开始更多的使用Hermes，现在M5 max也经常排着7/8个对话运行，响应速度开始在高峰时有感知的减慢，所以想跪求其他前辈的oMLX调优心法，让他能更流畅的运行，随附我现在的模型设置，先谢过各位，好人一生平安。

3080ti这速度不错啊
Qwen3.6-27B-MTP at ~61 tok/s. 100k context.
On two used RTX 3080 Tis — not the RTX 3090 everyone benchmarks (24GB, but split across 2 cards on PCIe 3.0 x8/x8, no NVLink).

Running llama.cpp's new MTP speculative decoding. The deep-context bottleneck? Nobody's talking about it. 🧵
(

看到又有更新了，

看起来M芯片还不错

升级0.3.8以后略有提升

另外我发信啊在macmon上看到的内存显示占用和mac自己的资源管理器显示有很大的差别，有朋友了解是什么原因吗？

24G 内存还是不够，我的MBP M4 pro，后台就占了几个G，模型基本装不下，触发了交换速度一下就慢下来了。

用omlx自带的测试跑了一下，供你参考