不管你信不信， 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了！
-
这个引擎最大的的问题就只能单发
@applejuice 更新的很快的，早晚什么都有，这就是ai vibe coding的好处，当然也有点可怕
-
，
D Data Wu 引用了 此主题
-
@deadnessking 坐等你的4080s 结果， 是32g 魔改版吗？ 我也在考虑这张
@Quanta-Magic 4080s 32g魔改版，decode巅峰100左右，prefill在128k左右可以达到巅峰3700，用的是IQ3_S。不过我那个是服务器，256g内存随便浪
-
Strata 复现报告
目标：单卡 RTX 3090 + Xeon E5-2680 v4 + 128GB 4ch DDR4-2400 · Swift-1.5 Qwen3.8-Flash-Next IQ3_XXS (76GB) · 引擎 Strata 0.1.21 · 2026-09-29结论：复现成功。 Strata 跑出稳态 decode ~71 tok/s、prefill 618.5 tok/s， 相比同机 llama.cpp 的 11.18 tok/s，decode 提升 6.4×。官方对 RTX 3090 + IQ3_XXS 的短上下文估算约 103–106， 但那是基于 Ryzen 5 7600 + DDR5-5200 的外推（±20%）；本机 ~71 约低 30%，差距在主机侧（CPU/内存，见第 4 节）。
71.7
Strata decode（tok/s，稳态）
差分法，隔离 prefill/首 token
6.4×
vs llama.cpp decode
11.18 → 71.7 tok/s
618.5
Strata prefill（tok/s）
llama.cpp 481.4，1.29× -
@abenzhu 我是V100 32G+E5-2686 V4+256G DDR4 2133.跑wen3.8-Flash-Next IQ3_XXS，我只跑到18token左右，还不如llama.cpp+Q4，两者速度一样。纠结死我了。
-
-
-
-
-
-
@Prio 我發現問題了， 首先是我ddr4跟cpu太入門級 令速度有降低， 但你用start here bat時 加--calibrate 它就會自己幫你調參數， s跑60-80沒問題。 xxs會更快
-
@tszhoill 玩着玩着就发现消费级CPU和主板根本不够用， 一定要上工作站级别的。
-
@tszhoill 玩着玩着就发现消费级CPU和主板根本不够用， 一定要上工作站级别的。
@johnnybegood 確實， 因為家裡還裡還有其他顯卡， 從這strata出來後就想弄個工作站， 但在澳洲 不知道找2手的應該看哪一種
-
