qwen flash刚好卡在甜点配置上,如果Deepseekv4 flash和glm 5.3 flash能跑出一半的水平就牛了,但似乎很难。
abenzhu
@abenzhu
-
7900xtx单卡魔改Strata跑Qwen3.8 flash next PP1300+ TG60-90 -
不管你信不信, 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了!Strata 复现报告
目标:单卡 RTX 3090 + Xeon E5-2680 v4 + 128GB 4ch DDR4-2400 · Swift-1.5 Qwen3.8-Flash-Next IQ3_XXS (76GB) · 引擎 Strata 0.1.21 · 2026-09-29结论:复现成功。 Strata 跑出稳态 decode ~71 tok/s、prefill 618.5 tok/s, 相比同机 llama.cpp 的 11.18 tok/s,decode 提升 6.4×。官方对 RTX 3090 + IQ3_XXS 的短上下文估算约 103–106, 但那是基于 Ryzen 5 7600 + DDR5-5200 的外推(±20%);本机 ~71 约低 30%,差距在主机侧(CPU/内存,见第 4 节)。
71.7
Strata decode(tok/s,稳态)
差分法,隔离 prefill/首 token
6.4×
vs llama.cpp decode
11.18 → 71.7 tok/s
618.5
Strata prefill(tok/s)
llama.cpp 481.4,1.29×