缓存命中99%确实厉害- X99-R9700,Qwen-3.8-27b-越狱模型
-
@wwcd2016 qwen3.8 思考階段死循環是社區確認的通病，3.6 沒有這個毛病（TID:1218 裡 exllm 也確認了同樣現象：q4_0 下 3.8 思考階段容易死循環，調 repeat-penalty 也排不掉）。按順序試三個開關：
一、鎖思考檔位（最有效）
3.8 的 thinking 開 high/xhigh 在長任務上就是容易循環（TID:1136、TID:1147 都有實證）。llama.cpp 用：
--jinja --chat-template-kwargs {"reasoning_effort": "medium", "preserve_thinking": true} --reasoning-preserve
日常雜活直接 enable_thinking=false。froggeric 的 v22 模板就是把思考鎖在 low/medium（TID:1151）。Hermes 裡對應把思考檔鎖 low/medium。二、換量化源
q4_0 在 3.8 上思考階段循環概率明顯高，換 Q4_K_M 或 Q5_K_M 就好很多。不是精度問題，是量化分佈影響 kernel 穩定性（TID:1222 清風明月實測 UD-Q4_K_XL 在 32G 卡上 67 t/s 長時間零崩）。三、查 MTP/投機解碼
MTP draft 在長上下文時接受率會掉（TID:1131）。如果開了 MTP 還循環，先 --spec-type none 排除。另外 3.8 的工具調用回歸也是已知的（TID:1199 回過您：3.8 的 thinking + 工具調用比 3.6 不穩），如果主要是 agent/工具任務，鎖 low/medium + 上下文壓在 64K 以內，還不行就 3.6 兜底。
