Qwen3.8-Flash-Next EXL3 双卡实测 60+T/S:MTP on/off 解码速度与多轮测速
-
@ben-lee 终于搞出来了。速度是一方面,但我觉得智力更重要,网上各种排名,27b智力可能都在flash之上了,但是我觉得那是微调的结果,我这个人比较笨,只从信息论的角度看,我私下认为90G的模型肯定应该比16G的模型要更“好用”,既然达到了60t/s这种可用的程度,我觉得flash更让我信任呢。欢迎讨论。
Qwen3.8-Flash-Next vs Qwen3.8-27B 官方评测对比
从官方评测看,Qwen3.8-Flash-Next 相比 Qwen3.8-27B,整体是"明显更强,但不是全面碾压"。优势主要集中在 Agent、职业办公、长流程任务和部分代码场景;在普通推理和某些软件工程任务上,两者差距并不大。
以下数字均来自 Qwen 官方同一套评测,实际表现还会受到提示词、推理预算和工具环境影响。
评测项目 Flash-Next 27B 差距 DeepSWE 1.1 智能编程 58.7 42.2 +16.5 SWE-bench Pro 62.5 61.7 +0.8 多语言软件工程 81.0 73.8 +7.2 NL2Repo 代码生成 48.1 42.3 +5.8 CoWorkBench 长流程办公 73.9 70.7 +3.2 JobBench 职业任务 55.7 33.4 +22.3 Agents' Last Exam Pass@1 24.3 20.4 +3.9 Agents' Last Exam Score 51.2 42.9 +8.3 Toolathlon 工具使用 73.5 67.1 +6.4 -
-
-
@johnnybegood 女大应该大概率不会买3090。哈哈!decode可以。但是prefill载快点儿就好了。
-
-
-
-
@johnnybegood 女大应该大概率不会买3090。哈哈!decode可以。但是prefill载快点儿就好了。
@nami-ryuu 确实, 还没仔细优化调整。不过说实话我也不打算用这个模型来干活,思考太多了,有点费劲。
-
@suboyang 我看过很多评测文章和视频, 世界上公认 30t/s 就可以干活了, 所以说 70t/s 干不了活这说的有点夸张, 那你可能属于对速度非常敏感的 TOP 1% 人群, 并不能代表大部分人, 所以你的意见是不具有代表性的。 另外, Qwen3.8 27B 在 3090 单卡上就可以跑到 191 t/s 了, 双卡可以到 280t/s 左右, 供你参考, 我这个帖子如果你注意看的话, 我测的是 Qwen3.8 Flash Next, 完全是另外一个模型。
-
我用这个Qwen3.8-Flash-Next 干活已经干了两周了 速度是50token/s吧,而且我是调优关闭思考模式的。但是最后我还是放弃了,人是被模型拖着走的感觉, 最后我换回了deepseek。
-
-
-
-
-
去了解一下智普的领导层,基本没有做技术的,算力是租的,模型是抄的,训练集就是用来跑分的。资本都是哪个啥来的。你有钱会不会投智普?心里琢磨一下。
-
@suboyang 清华的张钹院士是我的老师,我会不知道么?呵呵呵
-
-
-
zcode偷代码
你是不是以为 zcode偷代码 是他们第一次干?还是认为是最后一次?
zcode偷代码
你是不是以为 zcode偷代码 是他们第一次干?还是认为是最后一次?
zcode偷代码已经把它钉在了耻辱柱上了。我谈的是 glm5.3的能力,不要带太多感情哈。。。
-
zcode偷代码
你是不是以为 zcode偷代码 是他们第一次干?还是认为是最后一次?
zcode偷代码已经把它钉在了耻辱柱上了。我谈的是 glm5.3的能力,不要带太多感情哈。。。
很能打啊
,自己承认了。