RTX3080 20g,qwen3.6 27B 60-40T/S 本地爽玩配置

[vosrock]

@rock-shi 跑了一下午的代码项目，160K到顶了，170K有机会炸显存，疑问来了，不是说MTP不支持多模态吗？我怎么跑起来了

[rock shi]

@vosrock 支持的啊，下午还让AI找了个多模态的用上了

[vosrock]

最新优化，我觉得又白嫖了KV了，多模态MTP，长时间N多轮对话直到KV到99%都稳定运行，KV已经可以达到190K.。。。我继续让他做中型的代码任务，
35B我觉得可以弃用了，MTP基本无效，不时出点“什么缩进错误”，或者“干脆我重写好了”，
隔壁帖子提到的forcing full prompt re-processing due to lack of cache dataforcing full prompt re-processing due to lack of cache data现象，终于是出现了，不过也就一扫而过，没有感到任何异常

改了高亮的地方

[vosrock]

我目前使用HERMES的方法是对话式的，还没达到大佬们自动生产脚本的程度，目前的体验已经比在线的要好，要快，能力一点不弱，甚至更强，因为它读我给它的PDF，又快又准，理解得又好，甚至有的时候我对PDF那个环节拿不准，让他帮我找解决方法比我去看还快，之前一旦对话到后期，显存占用19.7M无论共享显存是0.2G还是多少，就有几率出现个位数的T/S，这个时候就比较煎熬了，因为这个时候项目代码有的还没更新完，停又不好停，但是现在这个设置，达到19.7G显存占用后，速度几乎还能保持35T/S左右，甚至现在共享显存已经到了1G了，还是很稳，对话过程的延时基本就是一两秒就开始给我回复了，到此刻，正式结束HERMES 跑QWEN3.6 27B的参数优化，谢谢大家看我唠叨

[applejuice]

@vosrock 说:

我目前使用HERMES的方法是对话式的，还没达到大佬们自动生产脚本的程度，目前的体验已经比在线的要好，要快，能力一点不弱，甚至更强，因为它读我给它的PDF，又快又准，理解得又好，甚至有的时候我对PDF那个环节拿不准，让他帮我找解决方法比我去看还快，之前一旦对话到后期，显存占用19.7M无论共享显存是0.2G还是多少，就有几率出现个位数的T/S，这个时候就比较煎熬了，因为这个时候项目代码有的还没更新完，停又不好停，但是现在这个设置，达到19.7G显存占用后，速度几乎还能保持35T/S左右，甚至现在共享显存已经到了1G了，还是很稳，对话过程的延时基本就是一两秒就开始给我回复了，到此刻，正式结束HERMES 跑QWEN3.6 27B的参数优化，谢谢大家看我唠叨

你是怎样测试的？

[Tony Wang]

@vosrock

35b A3b 因为是moe模式， MTP和专家路由很难对齐，所以效果不好，等将来MTP的优化做得更好的时候，可能会有改善。

[rock shi]

@vosrock moe现在确实不行，就算DeepSeep v4这么强的模型也是moe，就能够得到qwen 27b的水平

[ldscool]

@applejuice 就是命令行和hermes对话，让它建立项目做具体事情，做不好就骂，很奇怪，骂他比表扬他更有效，直到kv接近到99%,然后让它总结，写进度，退出，再次命令行进入，让它根据他自己写的项目进度继续做，每次重新打开第一次会话是比较久的，不过这个不影响了，毕竟190k上下文，已经可以撑很久，

那么问题来了，大家是怎么用的？为什么我的上下文基本是线性向上的，其实dashboard 的输入token曲线就能看出来

[Eliesid Sliva]

感谢大佬，已经抄作业成功，同款20GB显存RTX3080 ，190K上下文，能跑50token/s左右，比LM Studio快太多了！

[vosrock]

可以试试这几个配置，这个上下文这个速度，我感觉已经没有升级的冲动了

[Tony Wang]

已经非常好了

[simo9052]

@vosrock 厲害

[最是沉醉]

@vosrock 大佬，我看你内存占用28G，是不是有部分offload到内存中去了？

[vosrock]

@最是沉醉 我为KV设置了内存缓存，这个我还不知道有没有帮助，反正我内存大，没有负面影响，
其实不需要担心，一旦模型OFFLOAD，速度立马就会变慢，以我的急性子是不可能感受不到的

[vosrock]

启用集成显卡很有帮助，可以设置168960KV
.\hermeswork\llama.cpp\build\bin\Release\llama-server.exe -m D:\hermeswork\models\Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved.i1-IQ4_XS.gguf `
 -c 168960`
 -ngl 99 `
 -t 24 `
 -tb 24 `
 -b 2048 `
 -ub 256 `
 -np 1 `
 --temp 0.15 `
 --top-p 0.9 `
 --top-k 40 `
 --min-p 0.05 `
 --presence-penalty 1.0 `
 --repeat-penalty 1.05 `
 --flash-attn on `
 -ctk q4_0 `
 -ctv q4_0 `
 --reasoning off `
 --kv-offload `
 --spec-type draft-mtp `
 --spec-draft-n-max 2 `
 --checkpoint-every-n-tokens 16384 `
 --ctx-checkpoints 64 `
 --cache-reuse 4096 `
 --no-context-shift `
 --cache-ram 24576 `
 --host 0.0.0.0 `
 --port 11434 `
 --mmap `
 --mlock ` 

[vosrock]

这是新的配置，之前的配置上下文到了100多K之后，KV缓存会耗费大量时间做交换，用这个配置就不会了，后期的速度会快很多，能明显感觉到
这个配置初始大概有60多T/S PREFILL大约1200T/S，上下文快满了的时候大概40T/S，PREFILL大约500T/S，实际上和在线API的感觉没什么很大区别了

[flyps]

感谢分享感谢分享

[最是沉醉]

感谢分享，太有帮助了

[最是沉醉]

大佬，照着参数搞，一样3080 20G，就这样

[vosrock]

这是幻觉，无法避免的，这个时候你可以让他将当前任务拆分，然后顺序执行，搞定