體感經驗 哪一個強？？ Qwen3.8-Flash vs. Qwen3.8-27B

[fcme]

@johnnybegood
加一！ 体感就比27B好一档，如果预算够的话，弄俩9700来跑这个模型。
现在说是pp能到8000左右TG200左右，那就相当牛逼丝滑了！ 更难能可贵的是，这是一个moe模型显卡跑的时候单张功耗只有100多瓦，27b能把显卡干冒烟

[applejuice]

@fcme 那个是strata 才是消耗比较少
如果全在vram 我觉得也是一样

strata 的消耗是跑去cpu了

[applejuice]

@kos-or 我今天用strata 分配文件检查工作给dense 至少 暂时没什么问题

[fcme]

@applejuice
嗯，不是的，是因为moe模型的计算算力需求没那么高。我以前跑千问的那个80ba3b的模型也是类似的。

[kos or]

@applejuice said:

我今天用strata 分配文件检查工作给dense

謝謝反饋 我這兩天發現 Qwen Flash 遇到困難的問題(或者自我矛盾的時候)
會一直迴圈 繞圈圈，今天燒了我190K tokens 還繞不出來
我先解一下這個嚴重的問題(loop); 但Hermes Agent 一般功能使用上倒是沒問題

[Leon Y]

Qwen3.8 Flash Next在一些小众的知识上要强一些，比如金石和古钱币学。。。

[AresROC]

Flash Next 见多识广。回的答案非常详尽。
IQ_3XSS速度快，但有时候会乱跑。IQ_3S 好一点。NVFP4 应该会更好 就是速度慢了一点。用它策划中度工作应该可以。当然长的Context比不上DS4.1 Flash 1M

Qwen 27B 执行工作还是很可靠. 是生产或备用的必需品。

[zrlhk]

我用下来看Qwen 27b可能更加靠谱，而且速度稳定，最新的版本可以并行，单卡可以150tks/s；但是上下文偏短90k;
而strata flash next，能跑256k，但是速度能从100掉到40，速度不稳定（可能是个例），质量上来说也非常好

[Sunman Lede]

我也说两句。听老特的，搞了两张 7900 XTX，一开始一直在用 Qwen3 27B 的 Q6_K_M。因为主板不支持 P2P，跑不了 SGLong，所以都是用 llama.cpp。主要拿来迭代我这边的管理后台项目，不算太复杂。

前几天看了老特的视频，让 DeepSeek 帮我部署了 Strata，两张卡跑 Qwen Flash Next 的 IQ3_S。我的体感是：从迭代项目的角度来说，QFN 更好一点，基本任务 90% 能一次通过，比较省心；27B 总会有点这样那样的问题遗留，要多次修改矫正才行。

但 QFN 虽然吐字速度比 27B 快一倍，执行任务时感觉反而比 27B 慢，而且对话 6、7 轮后就明显变得更慢，偶尔还会失败。所以我一般最多 8 轮对话就会重开新会话。

综合省心程度和质量来看，我觉得 QFN > 27B。

[terry]

@Sunman-Lede QFN所谓的高得分是过度思考带来的，这就是它慢的根本原因。

[stxpnet]

@applejuice 说:

我感觉让flash 准备规划 然后dense 执行？

我现在是让GLM 5.3 （753B参数 MOE） 规划和验收，让本地QFN 3.8执行。 昨天试了一天效果还行。

[Ben Lee]

@terry 确实是这样的，我断断续续用了两周，还是把生产配置该回到了SGLang 27B。Flash Next拿来做出图表和复核27B的结果很香。