升级了0.3.8略有提升

zorg
-
请教大家M5 Max 128G MacBook Pro上的oMLX如何优化 -
请教大家M5 Max 128G MacBook Pro上的oMLX如何优化另外我发信啊在macmon上看到的内存显示占用和mac自己的资源管理器显示有很大的差别,有朋友了解是什么原因吗?

-
请教大家M5 Max 128G MacBook Pro上的oMLX如何优化大家好,我从今年元旦开始关注open claw的介绍和使用心得,碰巧过年时M5 max的MBP发布,就24期分期购入了128G的版本。本着先跑通再优化的思路先尝试了ollama,跑Qwen3.5 70B,学习openclaw。后来听大佬的话换到Qwen3.6 27B 8bit mlx。
之后夜以继日的沉浸在学习的快感里,可能是看多了本地ai内容的视频,被算法推了抡锤者大佬的视频,受益匪浅,很认同楼主的世界观,AI本质还是我们的工具,了解他,学习他,思考并找到他能给我们赋能的功能,相比原来chatgpt和gemini的纯文字交流来说,体会到了哥伦布的爽感。
目前我手里的硬件:AMDPC主机+32G内存+3090显卡,之前有过学习stable diffusion的经验,过年期间开始琢磨ltx2.3的其他玩家的玩法,只是偶尔生成参数控制不好内存溢出崩溃,敢在显卡涨价前在国外下单5090 32G,等下次回国带回来学习,希望如楼主所说能够更轻松的做一些音视频尝试。
M5 max上运行openclaw一段时间发现这家伙确实阿尔兹海默现象逐渐出现,现在更多的是使用Hermes,不同的架构还是缓解很多。现状搭配是M5 Max专职运行oMLX,提供api给家里每个人的openclaw或者hermes使用,这两个月在公司运营,法务梳理,业务拓展上榜了我很多。业务生成音视频我也是告诉Hermes,让他去调用PC的comfy ui api完成,真是挺好玩的。
由于家里所有成员开始更多的使用Hermes,现在M5 max也经常排着7/8个对话运行,响应速度开始在高峰时有感知的减慢,所以想跪求其他前辈的oMLX调优心法,让他能更流畅的运行,随附我现在的模型设置,先谢过各位,好人一生平安。


-
请教大家M5 Max 128G MacBook Pro上的oMLX如何优化用omlx自带的测试跑了一下,供你参考

-
请教大家M5 Max 128G MacBook Pro上的oMLX如何优化看起来M芯片还不错

-
Mac mini m4 24G又或者16G的定位?升级0.3.8以后略有提升

-
Mac mini m4 24G又或者16G的定位?24G 内存还是不够,我的MBP M4 pro,后台就占了几个G,模型基本装不下,触发了交换速度一下就慢下来了。