Qwen3.8-Flash-Next EXL3 双卡实测 60+T/S：MTP on/off 解码速度与多轮测速

[Ben Lee]

我去，哥们，这都跑到60+了 很能打啊

[johnnybegood]

@Ben-Lee 一点点试，一点点磨呗，老黄的卡潜力无限啊，现在头疼的是市面上可能没有品相很好的了，都被挑剩下了。我觉得最好的选择是咬牙上 RTX PRO 5000、6000等卡，否则很容易踩坑啊，或者找找有没有“女大学生、不玩游戏、自用3090，几乎全新”...嘿嘿...

[nami ryuu]

@johnnybegood 女大应该大概率不会买3090。哈哈！decode可以。但是prefill载快点儿就好了。

[suboyang]

@Ben-Lee

你真的用60+干过活吗？ 69.69 t/s这个速度其实基本干不了活。

[张光璞]

@suboyang 说:

@Ben-Lee

你真的用60+干过活吗？ 69.69 t/s这个速度其实基本干不了活。

大家对速度的敏感度不一样。

[johnnybegood]

@suboyang 我看过很多评测文章和视频， 世界上公认 30t/s 就可以干活了， 所以说 70t/s 干不了活这说的有点夸张， 那你可能属于对速度非常敏感的 TOP 1% 人群， 并不能代表大部分人， 所以你的意见是不具有代表性的。 另外， Qwen3.8 27B 在 3090 单卡上就可以跑到 191 t/s 了， 双卡可以到 280t/s 左右， 供你参考， 我这个帖子如果你注意看的话， 我测的是 Qwen3.8 Flash Next, 完全是另外一个模型。

[johnnybegood]

@nami-ryuu 确实， 还没仔细优化调整。不过说实话我也不打算用这个模型来干活，思考太多了，有点费劲。

[suboyang]

@johnnybegood

我用这个Qwen3.8-Flash-Next 干活已经干了两周了 速度是50token/s吧，而且我是调优关闭思考模式的。但是最后我还是放弃了，人是被模型拖着走的感觉， 最后我换回了deepseek。

[johnnybegood]

@suboyang 模型跟模型也不一样， 这个论坛里面有人测过， 结论就是这个Flash Next 模型不太适合用于编程。 如果你特别注重编程的话， 其实推荐GPT或 Opus那些是最好用的， 其次是 GLM 5.3 ， Deepseek 其实也不太属于适合编程的。另外我发现国外有些代理提供超过 300t/s 的专业服务， 如果对速度敏感， 可以买那种， 感觉肯定爽。

[suboyang]

智普的东西还敢用？哈哈哈

[johnnybegood]

@suboyang 说:

智普的东西还敢用？哈哈哈

所以它不是我推荐的第一档。前一阵我刚完成一个40万行的小应用，前期用GLM确实碰了不少坑， 后来没办法还是换成GPT了，差距确实不小（虽然分数接近）。当然价钱也很一言难尽。

[David Chen]

謝謝各位大神給我作業抄，我晚點用5090來玩看看 <(_ _)>

[suboyang]

@johnnybegood

去了解一下智普的领导层，基本没有做技术的，算力是租的，模型是抄的，训练集就是用来跑分的。资本都是哪个啥来的。你有钱会不会投智普？心里琢磨一下。

[johnnybegood]

@suboyang 清华的张钹院士是我的老师，我会不知道么？呵呵呵

[suboyang]

@johnnybegood
怪不得这么拉，自己承认了。

[laobenxiong]

@suboyang 说:

智普的东西还敢用？哈哈哈

GLM5.3还行吧？zcode偷代码是另一码事。

[suboyang]

@laobenxiong 说:

zcode偷代码

你是不是以为 zcode偷代码 是他们第一次干？还是认为是最后一次？

[laobenxiong]

@suboyang 说:

@laobenxiong 说:

zcode偷代码

你是不是以为 zcode偷代码 是他们第一次干？还是认为是最后一次？

zcode偷代码已经把它钉在了耻辱柱上了。我谈的是 glm5.3的能力，不要带太多感情哈。。。

[suboyang]

@laobenxiong
不是，glm5.3的能力 你以为是怎么来的? 那些跑分为什么那么高？有几个人用？一个模型是看跑分能代表啥？

[terry]

@suboyang 你讨论问题不要扩散到人身攻击，警告一次。