Qwen3.6 35B A3B UD Q6模型
96K上下文缓存，
67.28 token/s
S
sospda
@sospda
-
R9700 ai pro 32G 跑大模型还是很给力的，速度也不错 -
R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测(
Q6版本， 如果是Q4 速度会更快一些
投机采样 32.8tokens/s
正常模式 约20tokens/s, 忘记拍照了，大约21 左右 -
R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测
vllm也能跑通
-
7900xtx vs r9700 llm速度对比
R9700+ 27B