@82445418 根本不可能
Vittoria Veloso
@Vittoria Veloso
-
M5pro 64G LLM性能参考. -
M5pro 64G LLM性能参考.@Tony-Wang 你用omlx真的,专门针对mac优化了。lmstudio还有ollama确实不大行。
-
关于论坛建设方向以及版主、高积分会员福利@terry 资瓷
-
Openclaw與Hermes的一個小比較@Henry-Chiu 我对ollama有意见,我记得我之前玩龙虾的时候用的ollama第一个很简单的问题用了5分钟以上才回答
-
Openclaw與Hermes的一個小比較@terry 确实,比小龙虾强,但问题是太好使了,白嫖的积分快用光了。
-
部署llm用于写代码,构建本地项目@王一民 最低Q4以下的不要尝试,问题太多,我踩过坑。
-
部署llm用于写代码,构建本地项目我可以这么搞吗,本地Hermes用本地部署的qwen 3.6 27b -4bit,然后computer use 云端的比如Gemini,财力有限不敢搞opus和chatgpt,我觉着不能让AI主导。
-
M5pro 64G LLM性能参考.@Tony-Wang 可以的,我的m5 32g,跑qwen 3.6 27B,开到90k上下文都可以,不过我使用 omlx,没用LM Studio。也还可以十几token,哥们儿你这配置可以开qwen 3.6 27B 8bit了,27GB,上下文开到96k左右了。
-
部署llm用于写代码,构建本地项目问下,我的笔记本mac他的显存可以给到23gb左右,我发现4bit量化的qwen 3.6 27b明显强于qwen 3.5 9b 8bit换成3.5也类似。我只有2w rmb的预算是在买个mac 64gb还是上英伟达显卡,算了装台湾人上辉达显卡还是mac,2w人民币预算。我不想折腾Claude,封号太严重了,Gemini确实生成代码质量不太高,而且客户要求隐私。