抡锤者

用过了，低频噪音，个人能接受的范围

pro 5000实战代码分析任务

vllm启动参数

vllm serve ./Qwen3.6-27B-FP8  --kv-cache-dtype fp8 --tokenizer Qwen/Qwen3.6-27B \
--speculative-config '{"method": "mtp", "num_speculative_tokens": 2}' \
--enable-prefix-caching --trust-remote-code  --max-num-seqs 32  --max-num-batched-tokens 32768 \
--served-model-name  local-llm  --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder 

大概7分钟生成一个代码文档
vlibmemory_design.txt

保守了哈，直接上pro5000 72g