體感經驗 哪一個強？？ Qwen3.8-Flash vs. Qwen3.8-27B

[Bruce Wayne]

Strata backend还是llama.cpp只是优化好，多发并行请求肯定不行

[linghu007]

我让AI查了，但说的Strata限制"一次一个请求、无对话缓存"我就没下载了，不知道真假

[terry]

综合体验还是27B+SGLang更好。

[applejuice]

@terry 但是我用27b 简单检查文件都做不出
3.8 flash 做出来了 只是花了10倍的时间

确实感觉decode速度有差别

[David Chen]

@applejuice 既然多花十倍時間，如果提昇27B思考到high 或是 xhigh 也是無法檢查文件嗎？

[applejuice]

@David-Chen 我本来就已经最高了 有时间再试试

[fcme]

@applejuice
绝对不会差10倍那么多的，大概是2-3倍吧。这个框架好像不太挑的呀，我在9700上和5070ti上跑tj都是在50~65这个范围，5070上大概PP和TG都是快个15%左右。
所以感觉这个flash模型其实更适合挂在后台跑长程任务你不用管，要想及时响应的话，还是27B更快一些，尤其是配合dflash以后，有在线 V4 flash的感觉。

[6cccccc]

体感上iq3xxs的flash对比q4的27B，似乎对于项目阅读方面还是27B更强，flash看着速度快，但是使用起来处理同一个项目，时间更长，我目前还没让它跑完，不知道最终效果咋样

[guonetnet]

我的实际用下来的感觉就是qwen3.8-flash-next不能用iq3xxs，必须得用iq3s这个版本，它的能力比q4-27b要强！具体测试题目你们可以参考我发到本坛的贴子，而且在多轮修改中iq3s都能比较精准解决问题！

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2056-1063-1（系统自动发放，显示稍有延迟）

[imbiplaza ASUS]

可是我的最难的那个关，已经被27b 解决了。。。所以我还等，等真正你们觉得可以超越27b 我才来下载。。。

nvme 也是很紧张了

[terry]

@imbiplaza-ASUS 总体上还是27b + SGLang + Dflash2 体验更好。但3.8 flash next打开了新世界。

[vosrock]

我怎么都觉得3.8 flash强，而且强很多

[perter]

Qwen3.8-Flash vs. Qwen3.8-27B 肯定要对比同样量化的版本才有意义。

• Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS
  有一定生产力的工具
• Qwen3.8-27B-GSQ-RCO-IQ3_XXS
  只能聊天的玩具

[懒人烘培]

经过实际的测试感觉上27B + SGLang体验会更好些，虽然我3.8 flash next也在本地部署了

[fcme]

做长程开发的话，就flash next在后台跑，日用还是27b叠加Dflash以后响应快很多，然后比较爽，日常使用感觉不出来质量的差别！

给你看个27b的例子，手机随手拍的照片，让它识别动物。

准确率那是相当高了，而且27b本身也不是什么大的模型，知识面都有这么广！

但是27b和flash next的差距还是显而易见的，见下面的例子，用同样的dsh在两个不同的对话里面flash next生图明显细腻很多，数据我用DS核对过了，两个都是对的。

27b的：

Flash next的，明显好很多嘛！

[kos or]

個人使用體感經驗 (未和SGLang Qwen3.8-27B 或NInfer, HyperQwen 比較)

比較了 Strata-Swift15-Qwen3.8-Flash-IQ4_NL (RTX 5070 Ti) vs. LLama.cpp-Qwen3.8-27B-Q4_K_M-Dflash2 (7900XTX)
在雙方都是 Reasoning Low 的條件下，使用的介面為Hermes Agent，從Agentic一般生活常態功能(不含coding)操作的角度來說，
Strata-Swift15-Qwen3.8-Flash-IQ4_N 任務輸出品質約多出30%，任務輸出速度約快30%~70%(看任務複雜度)

prompt : 製作一張過去一年記憶體走勢的圖表 in html

Strata-Swift15-Qwen3.8-Flash

LLama.cpp-Qwen3.8-27B-Q4_K_M.

[NY Zhao]

我实测下来，Flash next聪明多了

[terry]

@NY-Zhao 具体是哪些领域呢？

[[[global:former-user]]]

测试了2个方案，还是觉得strata+flash-next更智能、更快。2张4090下，输出能200 t/s，prefill能到7600 t/s。能耗设置330W，温度不过60,GPU LOAD也能跑满。体感上速度和网络API差不多了