请教各位大神，5090 上 stara 如何支持多线程能快点啊？
-
为论坛做贡献，分享一下 5090 目前配置 stara 跑 next 的配置。 感谢 Peter 和 各位大神的指点。感谢锤子提供这么好的论坛。
{
"exe": "C:\strata\Strata\engine\strata.exe",
"args": [
"--pack",
"C:\strata\Strata-data\packs\q2_0",
"--native",
"C:\strata\Strata-data\models\Q2_0\Qwen3.8-Flash-Next-GSQ-RCO-Q2_0-00001-of-00002.gguf",
"--ple-gguf",
"C:\strata\Strata-data\models\Q2_0\Qwen3.8-Flash-Next-GSQ-RCO-Q2_0-00002-of-00002.gguf",
"--expert-profile",
"C:\strata\Strata\data\expert-profile.bin",
"--expert-cache",
"auto",
"--prefill",
"auto",
"--spec",
"4",
"--mtp",
"C:\strata\Strata-data\mtp\rt",
"--max-context",
"131072",
"--kv","q4_0",
"--kv-resident","32768",
"--vram-reserve-mib","700",
"--resident-experts",
"--pcie-frac",
"0.35",
"--spec-min-p",
"0.50",
"--pool-workers",
"4","--conversation-cache-mib", "8192"
],
"cwd": "C:\strata\Strata",
"parallel": 4,
"tokenizer": "C:\strata\Strata-data\packs\q2_0\tokenizer",
"model_name": "qwen3.8-flash-next-q2_0",
"log": "C:\strata\Strata\strata-q2_0.log",
"lib_dirs": [
"C:\strata\Strata\.venv\Lib\site-packages\nvidia\cu13\bin\x86_64"
],
"host":"192.168.0.3",
"port": 8080,
"gpu": 0,
"gpus_asked": true
}有需要优化的地方 请大家指正。
另外默默问一句， mac ultra 96 是不是会完败 5090 staraa?
-
按terry 老板要求
{
"exe": "C:\strata\Strata\engine\strata.exe",
"args": [
"--pack",
"C:\strata\Strata-data\packs\q2_0",
"--native",
"C:\strata\Strata-data\models\Q2_0\Qwen3.8-Flash-Next-GSQ-RCO-Q2_0-00001-of-00002.gguf",
"--ple-gguf",
"C:\strata\Strata-data\models\Q2_0\Qwen3.8-Flash-Next-GSQ-RCO-Q2_0-00002-of-00002.gguf",
"--expert-profile",
"C:\strata\Strata\data\expert-profile.bin",
"--expert-cache",
"auto",
"--prefill",
"auto",
"--spec",
"4",
"--mtp",
"C:\strata\Strata-data\mtp\rt",
"--max-context",
"131072",
"--kv",
"q4_0",
"--kv-resident",
"32768",
"--vram-reserve-mib",
"700",
"--resident-experts",
"--pcie-frac",
"0.35",
"--spec-min-p",
"0.50",
"--pool-workers",
"4",
"--conversation-cache-mib",
"8192"
],
"cwd": "C:\strata\Strata",
"parallel": 4,
"tokenizer": "C:\strata\Strata-data\packs\q2_0\tokenizer",
"model_name": "qwen3.8-flash-next-q2_0",
"log": "C:\strata\Strata\strata-q2_0.log",
"lib_dirs": [
"C:\strata\Strata\.venv\Lib\site-packages\nvidia\cu13\bin\x86_64"
],
"host": "192.168.0.3",
"port": 8080,
"gpu": 0,
"gpus_asked": true
}这个对了吗？
-
-
-
-
-
-
-
谢谢 我试试
{ "exe": "C:\strata\Strata\engine\strata.exe", "args": [ "--pack", "C:\strata\Strata-data\packs\q2_0", "--native", "C:\strata\Strata-data\models\Q2_0\Qwen3.8-Flash-Next-GSQ-RCO-Q2_0-00001-of-00002.gguf", "--ple-gguf", "C:\strata\Strata-data\models\Q2_0\Qwen3.8-Flash-Next-GSQ-RCO-Q2_0-00002-of-00002.gguf", "--expert-profile", "C:\strata\Strata\data\expert-profile.bin", "--expert-cache", "auto", "--prefill", "auto", "--spec", "4", "--mtp", "C:\strata\Strata-data\mtp\rt", "--max-context", "131072", "--kv", "q4_0", "--kv-resident", "32768", "--vram-reserve-mib", "700", "--resident-experts", "--pcie-frac", "0.35", "--spec-min-p", "0.50", "--pool-workers", "4", "--conversation-cache-mib", "8192" ], "cwd": "C:\strata\Strata", "parallel": 4, "tokenizer": "C:\strata\Strata-data\packs\q2_0\tokenizer", "model_name": "qwen3.8-flash-next-q2_0", "log": "C:\strata\Strata\strata-q2_0.log", "lib_dirs": [ "C:\strata\Strata\.venv\Lib\site-packages\nvidia\cu13\bin\x86_64" ], "host": "192.168.0.3", "port": 8080, "gpu": 0, "gpus_asked": true } -
我心想中，strata + cpu + gpu + nvme + hdd + l2 cache + l3 cache 他已经是在极力走着多线程了。。。我觉得除非我们的主机里面还有另外一套strata + cpu + gpu + nvme + hdd + l2 cache + l3 cache, 那样就可以实现真正的多线程
-
晕倒，我再 4080 上跑了一下，竟然跟 5090 速度差不多 T_T 我了个晕倒。
@tester12340 那就是妳沒好好善用GPU上的VRAM，我猜妳CPU loading一定很高，請AI自我檢測自我調優
-
-
真的别用Q2，耽误事儿，这些咱们都踩过坑了，而且你也可以问站长TERRY。
我的建议是：
你弄个DEEPSEEK PRO，或者是GLM 5.3啊，用500B+的在线API来帮你调，自己不懂就相信在线API的力量。 这几十元别省。弄个HERMES或者OMP 原生版的，添加上这两个模型之一。1-2个小时让它慢慢给你调优。 告诉它要需要 QFN 3.8 IQ3 S以上的质量，让它把你的硬件性能榨干。
另外MD文件发贴，你把你想表达的告诉HERMES，你就说要发到论坛上分享，行文要有逻辑，尽量添加漂亮的MD表格，写入到MD文件。 它帮你写好后，你打开MD文件直接复制里面的内容粘贴到论坛 就完事了。
-
-
把全部电脑用起来的代价是，不懂老特的老佛爷有问起为什么这几个月的电费那么高的。。。。。XD
再看看，我已经打算安置太阳能给我的电脑房间了
-
@imbiplaza-asus 我也是杂七杂八加起来一大堆洋垃圾 XD
-
@imbiplaza-asus 要是有条件真得弄个太阳能，哪怕是电池也能节约不少电费。 我有个家里装了50块太阳能板，多余的电 据说还能卖回给电力公司。。。
-
@imbiplaza-asus 要是有条件真得弄个太阳能，哪怕是电池也能节约不少电费。 我有个家里装了50块太阳能板，多余的电 据说还能卖回给电力公司。。。
当今我算过了5年回本，所以才迫切安装
-
@imbiplaza-asus 兄弟有远见啊。我还在犹豫中。 这个方面好像坑也不少，我打算等你汤完了录之后 我抄作业 @_@
-
场景 配置 墙钟(s) 输出tok 总吞吐(tok/s) 单请求(tok/s) 首字延迟(s) 单开 1 请求 p=1 3.40 256 75.6 86.2 0.4 单开 1 请求 p=4 3.90 256 67.2 75.8 0.5 4 顺序 p=1 12.80 885 69.0 79.0 0.4-0.6 4 顺序 p=4 14.70 875 59.8 71.6 0.5-0.9 4 并发 p=1 6.10* 512 83.4 96.7 0.5-3.6 (*2 请求) 4 并发 p=4 8.60* 512 59.6 32.9 0.5-1.1 4 并发 p=1 12.10 909 75.5 89.6 0.9-9.4 4 并发 p=4 12.60 909 72.5 22.2 0.5-2.0 引擎自记（日志 "N generated in M ms"）: p=1 中位 86.1 tok/s (61 请求, 草稿命中 71.3%, 缓存命中 95.4%) p=4 中位 74.3 tok/s (30 请求, 草稿命中 70.6%, 缓存命中 94.4%) 显存/内存占用: p=1 专家缓存 12589 槽 23.90 GiB VRAM + 20.85 GiB 常驻 RAM p=4 专家缓存 11427 槽 21.69 GiB VRAM + 17.25 GiB 常驻 RAM（4 个 session 状态吃掉一部分缓存）向各位朋友汇报一下 ヽ(^ｰ^)人(^ｰ^)ノ
