抡锤者

我用LMStudio主要是在16+256的丐版MacMini M4上，指望使用小模型完成一些小任务。所以我一直认为，类似Macmini M4 16G这样的小主机，才是LMStudio之类的主战场。
但是小模型之前都一直感觉很拉胯，包括Qwen3.5 9B，可能是我水平不够，总之真的不行。后来记得有下载了一个社区蒸馏的版本，感觉跑些本地整理文件的任务才好歹能跑起来了。各种7B，9B模型尝试下来都不太成功，包括Gemma4 12B。后来就倾向于暂时放弃了。一度看到PrimL那个bonsai系列眼前一亮，号称是2Bit能复现Qwen3.5 27B，觉得可能是本地16G小主机的天花板，说不定能打。事实证明还是不行。
LMstudio我感觉直接竞争对象还是ollama那个小羊驼，降低大模型部署门槛用的。但凡会装独立Ubuntu服务器加显卡，必然就上手llama,vLLM，Sglang这些框架，就是另一个维度了。

我发现ox在长链开发任务里很容易出现上下文截断的毛病，或者突然说“开工”然后就中止了。有点感觉像以前测试mimo code时遇到的情况。

我也是双3090。对记忆系统，我的选择是：云端的一律不考虑，免费的API也可能在你某一天积累了大量记忆后收你的钱，你就不得不乖乖掏钱。去掉云端后，主要就是自托管的几个，包括mem0,Hind，hongcho。还考虑过reme（只使用MD文档），我还自己魔改过Mempalace，让Qwen3.6 Plus防facebook在10亿照片里找到类似照片的算法，写了一个搜索。最终是落在使用字节跳动开源的OpenViking上（我怀疑字节的豆包网页版之类，搞不好就是这个框架）。
OpenViking里面有多个LLM调用，官方推荐使用豆包模型。我用过豆包内置嵌入模型，后来发现这东西居然大量消耗我的豆包模型额度，直接改自托管了。
本来是丐版Mac上自托管，以本机LMStudio默认拉起BGE模型作为服务端，提供这个嵌入模型为OpenViking提供LLM服务。后来想起来局域网有一台12G的小主机，装了飞牛NAS，属于Debian系统。就让PI Agent把本机的OpenViking直接迁移到飞牛NAS上，PI迁移过去还比较平滑。
使用OpenViking我没遇到你这种集中”总结“的时刻，问Agent一些问题，它发现需要召回记忆的时候，会主动去OpenViking里翻。貌似效果还行。
OpenViking：https://github.com/volcengine/OpenViking