Qwen3.8 27B Q5_K_M + 7900xtx + DeepSeek Harness实战平均 52 t/s
-
Harness 提示词： 介绍一下“八卦”的来由
-
冷启动
-
极简模式：
Total duration: 16.2 s
TTFT: 5.20 s
Generation: 11.0 s
Throughput: 74.8 tok/s -
标准模式：
Total duration: 20.1 s
TTFT: 12.3 s
Generation: 7.78 s
Throughput: 83.8 tok/s
-
-
缓存填满新开会话
-
极简模式：
Total duration: 17.1 s
TTFT: 2.65 s
Generation: 14.4 s
Throughput: 65.1 tok/s -
标准模式：
Total duration: 28.1 s
TTFT: 12.3 s
Generation: 15.8 s
Throughput: 61.0 tok/s
-
-
-
xtx能到这个水平实属不易，你上下文能做到多少？如果上下文也够，看你参数里开到128k，能驱动dsh，那就有实用价值了。说真的 ，xtx这种显卡就是安静的很，做工不错，功耗可控。能玩上deepseek harness这一条就能值回票价。
-
是的，我上下文128k， 如我在一楼写的，修改现有的c++项目(大约 355595行代码)，效果很好。 同样的任务比Deepseek flash慢 一半， 结合Harness一次性完成，效果一样。
在opencode中， DSF 一次完美完成， 本地Qwen需要多次修改。
-
，
T terry 固定了此主题
-
，T terry 引用了 此主题
-
作业质量非常高！9700x、64G ddr5、R9700 跑QWen3.8-27b-Q4_K_M。没抄作业之前，接入Codex干活吐字只有3.1 t/s，还经常崩掉，完全不能忍。抄作业以后，接入Codex干活吐字能到50t/s，提升十多倍，感觉顺畅了。万分感谢！
-
看视频了。抄作业，已关注。请继续更新。
-
抄了作业，跑楼主参数，只有20tokens/s，比较尴尬，经过deepseek了一下，应该是我的CPU有点弱，我将--override-tensor blk.\d+.ffn_.*_exps.=CPU \注释掉了，并将--parallel改成了1，其他参数未动，现在能到60t/s了
-
@exllm 并行改为1后，预填充性能有接近5~10倍的提升（不同的任务变化很大），但生成token的性能提升不到10%。我也将“--override-tensor blk.\d+.ffn_.*_exps.=CPU \”注释掉进行过测试，性能反而有略微下降，可能跟我的硬件和跑的任务也有一定关系。
