Strata 复现报告
目标:单卡 RTX 3090 + Xeon E5-2680 v4 + 128GB 4ch DDR4-2400 · Swift-1.5 Qwen3.8-Flash-Next IQ3_XXS (76GB) · 引擎 Strata 0.1.21 · 2026-09-29
结论:复现成功。 Strata 跑出稳态 decode ~71 tok/s、prefill 618.5 tok/s, 相比同机 llama.cpp 的 11.18 tok/s,decode 提升 6.4×。官方对 RTX 3090 + IQ3_XXS 的短上下文估算约 103–106, 但那是基于 Ryzen 5 7600 + DDR5-5200 的外推(±20%);本机 ~71 约低 30%,差距在主机侧(CPU/内存,见第 4 节)。
71.7
Strata decode(tok/s,稳态)
差分法,隔离 prefill/首 token
6.4×
vs llama.cpp decode
11.18 → 71.7 tok/s
618.5
Strata prefill(tok/s)
llama.cpp 481.4,1.29×