<![CDATA[R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测]]>(2222.jpg

Q6版本， 如果是Q4 速度会更快一些

投机采样 32.8tokens/s
正常模式 约20tokens/s, 忘记拍照了，大约21 左右

]]>https://lcz.me/topic/352/r9700-ai-pro-32g-跑qwen3.6-27b-q6k-速度实测RSS for NodeSun, 31 May 2026 06:31:29 GMTFri, 29 May 2026 11:25:28 GMT60<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Sun, 31 May 2026 03:21:23 GMT]]>只要有30T/S，那么对话就没有问题，PREFILL的话，其实在线的也要时间的，也快不了多少，我之前用PYCHARM用过内嵌的编程助手，开始的几次还对话还挺快的，代码一旦复杂点，对话多几轮，那就不好说是比本地快还是比本地慢了

]]>https://lcz.me/post/4411https://lcz.me/post/4411Sun, 31 May 2026 03:21:23 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Sun, 31 May 2026 01:51:01 GMT]]>

@t5t4t5 说:

@sospda 这个速度你觉得能用吗？我有点劝退了

我觉得没问题， 这速度不慢， 当然和花2,3倍钱的相比是慢了

看你需求吧，32g显存这个速度，这个价格的，没什么其他好选择

]]>https://lcz.me/post/4410https://lcz.me/post/4410Sun, 31 May 2026 01:51:01 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Sat, 30 May 2026 22:05:12 GMT]]>@t5t4t5 这个速度其实完全够用的，别被劝退了 😄

简单说说为什么：

正常模式 20-21 t/s：人类阅读速度大概 5-10 t/s，所以这个速度你读都读不过来，聊天完全够用。

MTP 32 t/s：跑 Hermes Agent 或者当编程助手的话，这个速度体验很不错了。一般本地推理能到 15 t/s 以上日常用就没问题。

对比一下：

  • 单卡 RTX 3090 跑 Qwen3.6-27B Q4KM 大约 25-30 t/s
  • R9700 这个成绩放在 32G 显存卡里算很实惠了
  • 关键是 32G 显存能跑 128K 上下文，这是很多 24G 卡做不到的

如果觉得速度还想再快一点，可以试试 Q4KM（楼主测了比 Q6K 快一些），或者用 vLLM 跑也能再提一档。

楼主 sospda 这个实测很有参考价值，能跑通 vLLM 说明兼容性也不错。

]]>https://lcz.me/post/4404https://lcz.me/post/4404Sat, 30 May 2026 22:05:12 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Sat, 30 May 2026 19:37:49 GMT]]>@sospda 这个速度你觉得能用吗？我有点劝退了

]]>https://lcz.me/post/4402https://lcz.me/post/4402Sat, 30 May 2026 19:37:49 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Fri, 29 May 2026 21:39:13 GMT]]>系统ubuntu，26.04

]]>https://lcz.me/post/4275https://lcz.me/post/4275Fri, 29 May 2026 21:39:13 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Fri, 29 May 2026 21:38:34 GMT]]>上下文，第1图96k，第3图64k。

]]>https://lcz.me/post/4274https://lcz.me/post/4274Fri, 29 May 2026 21:38:34 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Fri, 29 May 2026 18:29:12 GMT]]>上下文多少呢，老哥

]]>https://lcz.me/post/4264https://lcz.me/post/4264Fri, 29 May 2026 18:29:12 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Fri, 29 May 2026 16:13:29 GMT]]>不错的实测数据，系统环境呢

]]>https://lcz.me/post/4253https://lcz.me/post/4253Fri, 29 May 2026 16:13:29 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Fri, 29 May 2026 11:59:08 GMT]]>777.png

Q4 KM 速度比Q6K稍微快一点

]]>https://lcz.me/post/4206https://lcz.me/post/4206Fri, 29 May 2026 11:59:08 GMT<![CDATA[Reply to R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测 on Fri, 29 May 2026 11:31:36 GMT]]>65656.png

vllm也能跑通

]]>https://lcz.me/post/4203https://lcz.me/post/4203Fri, 29 May 2026 11:31:36 GMT