長文增量 Prefill 吞吐量:最高達 1,321.9 tok/s
这个prefill有点低,radiance跑双卡r9700能到7000 token/s
You Yang
@You Yang
-
【實戰分享】單張 AMD Radeon AI PRO R9700 (32GB) 跑 Qwen 3.8 Flash + Hermes Agent 極致調教指南:85K~98K 超長上下文飆破 107.6 tok/s! -
华南金牌H12D-8D翻车球了。我也遇到过内存条有一根不认的问题,实际上是机箱上多装了一根铜柱,导致内存背后的触点短路,去掉铜柱就好了。