抡锤者

@terry 有道理，性能就这样了。个人用已经足够了

到最后写文档时，可以达到125t/s. 这个卡差在bf16算力只有rtx 6000 ada的一半

vllm serve ./Qwen3.6-27B-FP8 --kv-cache-dtype fp8_e4m3 --block-size 32 --tokenizer Qwen/Qwen3.6-27B --speculative-config '{"method": "mtp", "num_speculative_tokens": 4}' --enable-prefix-caching --trust-remote-code --max-num-seqs 8 --max-num-batched-tokens 16384 --served-model-name qwen3.6-27b --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder --language-model-only

23K吞吐达到了100t/s

5080 *2 27b能跑到40t/s

涨价真快，京东5.9w了

@abaalei 很利害了

牛逼，S3这么强

保守了哈，直接上pro5000 72g

@terry 是的，能撑过显存饥荒年代了

我估计守着rtx pro 5000 72G终老了。谁又说得好呢，几年之后个人pc统一内存达到TB级别

qwen3.6 27b fp8都30G了。懒得跑评测数据。实际体验，单路70t/s足够个人用，cc跑稍微大一点的的代码仓库也比较可以了。京东丽台5.0w拿下的72G版本，砸锅卖铁。

pro 5000实战代码分析任务

vllm启动参数

vllm serve ./Qwen3.6-27B-FP8  --kv-cache-dtype fp8 --tokenizer Qwen/Qwen3.6-27B \
--speculative-config '{"method": "mtp", "num_speculative_tokens": 2}' \
--enable-prefix-caching --trust-remote-code  --max-num-seqs 32  --max-num-batched-tokens 32768 \
--served-model-name  local-llm  --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder 

大概7分钟生成一个代码文档
vlibmemory_design.txt

vllm qwen3.6 27b fp8跑着还行，代码分析任务，当然了，这个图是最后生成文档时截的

@Rocky-Law 很明显，这是个错误的结论。比pro 5000还是要强30%

@stxpnet 84G啥时候有4.2w的价哦，pro 5000 72G都没有低于5w

我以为在台湾买显卡更便宜，看来事实不一样

@Tony-Wang 6.1 0点的时候有那么一会儿是活动最低价格3.5w。
风噪我觉得还好，体积比我5080 FE还小一圈。刚好压住我的主板装甲，这么重的东西都不用使用支撑架

6.1 丽台京东，3.5w

用过了，低频噪音，个人能接受的范围