體感經驗 哪一個強？？ Qwen3.8-Flash vs. Qwen3.8-27B

[zrlhk]

我用下来看Qwen 27b可能更加靠谱，而且速度稳定，最新的版本可以并行，单卡可以150tks/s；但是上下文偏短90k;
而strata flash next，能跑256k，但是速度能从100掉到40，速度不稳定（可能是个例），质量上来说也非常好

[Sunman Lede]

我也说两句。听老特的，搞了两张 7900 XTX，一开始一直在用 Qwen3 27B 的 Q6_K_M。因为主板不支持 P2P，跑不了 SGLong，所以都是用 llama.cpp。主要拿来迭代我这边的管理后台项目，不算太复杂。

前几天看了老特的视频，让 DeepSeek 帮我部署了 Strata，两张卡跑 Qwen Flash Next 的 IQ3_S。我的体感是：从迭代项目的角度来说，QFN 更好一点，基本任务 90% 能一次通过，比较省心；27B 总会有点这样那样的问题遗留，要多次修改矫正才行。

但 QFN 虽然吐字速度比 27B 快一倍，执行任务时感觉反而比 27B 慢，而且对话 6、7 轮后就明显变得更慢，偶尔还会失败。所以我一般最多 8 轮对话就会重开新会话。

综合省心程度和质量来看，我觉得 QFN > 27B。

[terry]

@Sunman-Lede QFN所谓的高得分是过度思考带来的，这就是它慢的根本原因。

[stxpnet]

@applejuice 说:

我感觉让flash 准备规划 然后dense 执行？

我现在是让GLM 5.3 （753B参数 MOE） 规划和验收，让本地QFN 3.8执行。 昨天试了一天效果还行。

[Ben Lee]

@terry 确实是这样的，我断断续续用了两周，还是把生产配置该回到了SGLang 27B。Flash Next拿来做出图表和复核27B的结果很香。

[清风明月]

4500 32G + 64G 内存，按这楼的建议跑了双档 llm-switch：IQ2_XS 512K 日常 + IQ3_S 256K 质量（Strata）。IQ3_S 专家 46.84G 全驻 RAM，250K 内质量确实站得住，8K 热态 decode ~170 t/s；IQ2_XS 日常档 ~200 t/s。同硬件结论一致：能塞下 IQ3_S 就别停在 IQ3_XXS，这楼没白看，赞了。

[rock shi]

@perter 我觉得用相同配置下对比比较舒服。比如我的设备可以qfn的iqs3，也可以27b fp8，这两个比较比较好

[rock shi]

@Sunman-Lede 个人体感iq3s也会经常遗留问题

[John Yang]

刚刚从qwen3.8 27b q8 换到 qwen3.8 flashnext q5, 测试很多轮,最终保留fn q5.

[perter]

@rock-shi
Qwen3.8-Flash-Next_IQ3_XXS模型生成。

Qwen3.8-27B_BF16满血模型生成。

对比一下差距一目了然。