不管你信不信, 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了!
-
-
这个引擎最大的的问题就只能单发
@applejuice 更新的很快的,早晚什么都有,这就是ai vibe coding的好处,当然也有点可怕
-
,
D Data Wu 引用了 此主题
-
@deadnessking 坐等你的4080s 结果, 是32g 魔改版吗? 我也在考虑这张
@Quanta-Magic 4080s 32g魔改版,decode巅峰100左右,prefill在128k左右可以达到巅峰3700,用的是IQ3_S。不过我那个是服务器,256g内存随便浪
-
Strata 复现报告
目标:单卡 RTX 3090 + Xeon E5-2680 v4 + 128GB 4ch DDR4-2400 · Swift-1.5 Qwen3.8-Flash-Next IQ3_XXS (76GB) · 引擎 Strata 0.1.21 · 2026-09-29结论:复现成功。 Strata 跑出稳态 decode ~71 tok/s、prefill 618.5 tok/s, 相比同机 llama.cpp 的 11.18 tok/s,decode 提升 6.4×。官方对 RTX 3090 + IQ3_XXS 的短上下文估算约 103–106, 但那是基于 Ryzen 5 7600 + DDR5-5200 的外推(±20%);本机 ~71 约低 30%,差距在主机侧(CPU/内存,见第 4 节)。
71.7
Strata decode(tok/s,稳态)
差分法,隔离 prefill/首 token
6.4×
vs llama.cpp decode
11.18 → 71.7 tok/s
618.5
Strata prefill(tok/s)
llama.cpp 481.4,1.29× -
@abenzhu 我是V100 32G+E5-2686 V4+256G DDR4 2133.跑wen3.8-Flash-Next IQ3_XXS,我只跑到18token左右,还不如llama.cpp+Q4,两者速度一样。纠结死我了。
-
-
-
-
-
-
@Prio 我發現問題了, 首先是我ddr4跟cpu太入門級 令速度有降低, 但你用start here bat時 加--calibrate 它就會自己幫你調參數, s跑60-80沒問題。 xxs會更快
-
@tszhoill 玩着玩着就发现消费级CPU和主板根本不够用, 一定要上工作站级别的。
-
@tszhoill 玩着玩着就发现消费级CPU和主板根本不够用, 一定要上工作站级别的。
@johnnybegood 確實, 因為家裡還裡還有其他顯卡, 從這strata出來後就想弄個工作站, 但在澳洲 不知道找2手的應該看哪一種
-