Qwen3.8-27B 关掉推理～效率快太多 成果差不多

[Botio Kuo]

推理真的没你想像中的有用 至少在我使用的过程中制造不少问题

使用的 syv-ai/qwen38-27b-rtx3090, 单卡3090长上下文 240k 设置, 不是在 VLLM 设定关闭推理

而是在 omp agent harness 上关闭推理 直接设定 off, coding 部分成果差不多 該錯還是會錯，但省下的時間跟上下文真的太多！
我测试的这专案也不单纯，是在原生开源的基础上新增 herdr 的对接 跟 灯光效果设定，在硬体测试上至少错了五次（但这是AI本身就没办法克服的硬件韧体测试，一定要有人类观察结果反餽），所以结论建议：性子急的可以关掉推理了！ 真的快太多！

测试专案 repo:https://github.com/botio/duckyPad-herdr/

[kop wang]

https://artificialanalysis.ai/models/qwen3-8-27b-non-reasoning

这是qwen3.8-27B的关闭思考评测。能力下降的还是比较厉害的。

[Botio Kuo]

@kop-wang 是的，但我现在实作的过程中，我不觉得那个分数值得更多的时间。。。 效果真的差不多，这MODEL 思考时间真的太长了。。。

[David Chen]

所以low是甜蜜點啊....low -> non 可以節省多少時間?

[neo]

关掉推理，连一些基本的测试题都过不了的，稍微复杂点的工具调用也会出错。

[Botio Kuo]

@neo 有一说一 还是要看你拿来的用途 跟 搭配的 harness , 差异确实不小。。。workflow 跟 一些边界没写好，推理再久还是错

[kos or]

@kop-wang

沒想到medium and low 只差距一個點

[terry]

关于推理，我可以负责任地说，如果你使用DSH，在编程等日常任务中，没啥差距，最起码我什么推理等级都使用过，开了推理除了增加一堆输出，毫无卵用。直接裸模型输出，把harness交给dsh去做。

[Botio Kuo]

@terry 是的，现在已经走 less is more 的路线了， skill 太多 废话太多 都是负担， 现在越聪明的MODEL 越不需要太多额外的提示词，只要给明确的目标，途中不要走歪就好，一开始MAP的路线非常重要，现在个人训练出的 harness 是让自己更好用，所以插件类型的 harness 才会更受欢迎，AI方向一直在变，新的MODEL 最好就不要套用旧版的SKILL跟负担，后面需要在慢慢增加就好，省钱又省时间

[stxpnet]

看工作场景吧，编程，还有对账，涉及资金之内的，不差时间我都开最大思考

[dardeaw feng]

留給機器思考，浪費時間，也不可能做到零錯誤
不如快點生出來快點測，早點發現問題繼續罵他個祖宗十八代
就跟圍棋下快棋一樣，高手落子快還是高手，資質不足給他再多時間依舊廢物

[paul hou]

使用這個 https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates
再設在low 或 medium的效果還不錯。

[imbiplaza ASUS]

qwen3.8 把thinking 弄成这样乱78糟肯定有他的用处，我关了影响不大，又开回了。。
最近更新了我认为好用的nvfp4无审查版本，只是开动q8 kv & 152000k, 还没到oom 又有速度 （75ts),prefill 2800ts 我就不大爱管他，我使用我自己的自制api, loading model 后就开始跑，不大会thinking，然而使用dsh 就会thinking 来thinking 去老半天。。。还没捣鼓原理在哪