这里楼主的机器配置是什么样的似乎并没清楚。如果是类似于英伟达的显卡,那么使用稠密模型27B。如果是使用的Mac电脑,那么就使用MoE模型3.6 35B,在此基础上才能讨论是使用3.6还是3.8版本,我个人还没有测试3.8版本,只能说以上是自己的理解。不吝赐教
K
kadingche
@kadingche
-
我换回3.6 35B了 -
技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行很有价值的分享,看来内存这块还是尽量不折腾了,ddr5 的兼容性问题对我来说有点麻烦。
-
大家编程用Hermes时候 用 cli 还是 desktop,各有什么优势呢我目前使用desktop 版本,方便回看以前编程的记录,也方查看以前的代码对话记录, 但是我看大牛都是用CLI方式, 那样会看编程对话会不会很麻烦呢