抡锤者

@Quanta-Magic 主要是群主推荐的蓝宝石白金版，这个要贵些。满载确实没有什么声音，随便造，3年质保！

谢谢分享，抄作业，实测效果确实很强，，效果比Qwen3.8-27B-Q5_K_M.gguf快，不错！

@6cccccc
刚才实际测试了，如果开启Thinking了，速度也只有16，把Thinking Off后，速度我就恢复了70了。注意

@6cccccc
试试我那参数呢，不应该只有12

@exllm @terry
根据楼主的测试了一下
cpu： AMD Ryzen 5 7500F
RAM：DDR5 32GB 6000
GPU： 7900XTX
OS： Ubuntu 24.04
软件 ： llama.cpp + vulkan

先说结果：

llama.cpp运行参数，spec-draft-n-max 3 速度最好：

~/llama_vulkan/bin/llama-server \
-m ~/models/Qwen3.8-27B-Q5_K_M.gguf \
-t 10 \
-b 512 \
-ub 256 \
--spec-draft-n-max 3 \
--fit off \
--no-context-shift \
--metrics \
--kv-unified \
--jinja \
--cache-type-k q8_0 \
--cache-type-v q8_0 \
-fa on \
--spec-type draft-mtp \
--ctx-size 131072 \
--parallel 1 \
-ngl -1 \
--host 0.0.0.0 \
--port 8080 \
--chat-template-kwargs '{"enable_thinking":true,"preserve_think":false,"reasoning_effort":"medium"}' \
--no-mmap \
--temp 0.6 \
--top-p 0.5 \
--top-k 15 \
--repeat-penalty 1.0 \
--alias qwen3.8-27b-q5

llama.cpp运行参数，spec-draft-n-max 2 ：

llama.cpp运行参数，spec-draft-n-max 4 ：

总结：

这台电脑n=3最好。
注：修改这个参数是MTP speculative decoding（推测解码）一次最多提前“猜”多少个 token。