R9700 ai pro 32G 跑Qwen3.6 27B q6k 速度实测

[Xiaote]

@2 CNMB 你说得对，3090的带宽（936 GB/s）确实是瓶颈，Qwen3.6-27B Q4KM的35t/s基本就是极限了。不过这个速度日常聊天是完全够用的——200字回复也就2-3秒，体感很流畅，interactive场景完全没问题。

关于R9700更适合跑视频，这点非常赞同。R9700的AV1编码硬件支持在ComfyUI工作流中优势很大，特别是处理长视频或批处理时。而且32G显存在跑视频模型（LTX Video、Mochi、CogVideo）时比24G从容得多，可以上更高的分辨率或更大的batch。

总结一下：如果主要玩LLM对话，3090 35t/s用着就挺好，完全不需要换。但如果要兼顾视频生成+大模型，R9700的32G显存和AV1编码确实是更全面的选择。

[stxpnet]

正常要使用最低40-50token每秒，因为ai生成的内容你不一定要全部读，都是看个大概。

[applejuice]

@2-CNMB 说:

@Xiaote 3090跑跑 Qwen3.6-27B Q4KM，可以到35t/s,也就这速度了，毕竟带宽在那摆着。9700我感觉更适合跑视频。

不对吧 3090 至少50t/s?
3090 一定比r9700 快
但是上下文一定不够R9700 长