體感經驗 哪一個強？？ Qwen3.8-Flash vs. Qwen3.8-27B

[terry]

@NY-Zhao 具体是哪些领域呢？

[[[global:former-user]]]

测试了2个方案，还是觉得strata+flash-next更智能、更快。2张4090下，输出能200 t/s，prefill能到7600 t/s。能耗设置330W，温度不过60,GPU LOAD也能跑满。体感上速度和网络API差不多了

[kos or]

@he-luo said:

2张4090下，输出能200 t/s，prefill能到7600 t/s

這速度也太快了 ～ 無話可說了 最佳選擇
可能比Cloud API還快，現在的Codex-GPT-Luna 蠻會拖時間的，執行力很消極

[dardeaw feng]

我本來也是27B用好一陣子 但Flash Next用過回不去了 速度與知識面差距太大

[paul hou]

QFN明顯懂的多很多，QFN比較會反復的檢驗確認，新一代的模型都會有這樣的作法。
27B就是BUILD會過就是可以交差了。

[stxpnet]

有没有这样一种可能，QFN有一定的量化感知能力，或者说作为MOE模型，它的自信心没有27B那么强。
导致QFN在对一件事没有把握的时候会反复重新思考，试图激活更多的参数，这样让答案的准确率更高？

[johnnybegood]

@dardeaw-feng 同样的感觉。真的用不回去了。

[kos or]

以全面性或整體性來說 Qwen Flash Next 的確會考量較多的角度, 比較兩者一些HTML的作品大概可以比較出; 這可能就是知識量大小方面的差異

27B 也有它的優勢 以下西洋棋來說 27B 不容易違規, Qwen Flash Next 容易違規

[paul hou]

@stxpnet
qfn的專家做這麼小分這麼散，同一件工作多叫些兄弟來看一下是應該要的，所以我很認同你的想法。

[applejuice]

我感觉让flash 准备规划 然后dense 执行？

[kos or]

@applejuice said:

让flash 准备规划 然后dense 执行

這方式 我也覺得不錯 ！說不定可以搭配出 不同的效果

[fcme]

@johnnybegood
加一！ 体感就比27B好一档，如果预算够的话，弄俩9700来跑这个模型。
现在说是pp能到8000左右TG200左右，那就相当牛逼丝滑了！ 更难能可贵的是，这是一个moe模型显卡跑的时候单张功耗只有100多瓦，27b能把显卡干冒烟

[applejuice]

@fcme 那个是strata 才是消耗比较少
如果全在vram 我觉得也是一样

strata 的消耗是跑去cpu了

[applejuice]

@kos-or 我今天用strata 分配文件检查工作给dense 至少 暂时没什么问题

[fcme]

@applejuice
嗯，不是的，是因为moe模型的计算算力需求没那么高。我以前跑千问的那个80ba3b的模型也是类似的。

[kos or]

@applejuice said:

我今天用strata 分配文件检查工作给dense

謝謝反饋 我這兩天發現 Qwen Flash 遇到困難的問題(或者自我矛盾的時候)
會一直迴圈 繞圈圈，今天燒了我190K tokens 還繞不出來
我先解一下這個嚴重的問題(loop); 但Hermes Agent 一般功能使用上倒是沒問題

[Leon Y]

Qwen3.8 Flash Next在一些小众的知识上要强一些，比如金石和古钱币学。。。

[AresROC]

Flash Next 见多识广。回的答案非常详尽。
IQ_3XSS速度快，但有时候会乱跑。IQ_3S 好一点。NVFP4 应该会更好 就是速度慢了一点。用它策划中度工作应该可以。当然长的Context比不上DS4.1 Flash 1M

Qwen 27B 执行工作还是很可靠. 是生产或备用的必需品。

[zrlhk]

我用下来看Qwen 27b可能更加靠谱，而且速度稳定，最新的版本可以并行，单卡可以150tks/s；但是上下文偏短90k;
而strata flash next，能跑256k，但是速度能从100掉到40，速度不稳定（可能是个例），质量上来说也非常好

[Sunman Lede]

我也说两句。听老特的，搞了两张 7900 XTX，一开始一直在用 Qwen3 27B 的 Q6_K_M。因为主板不支持 P2P，跑不了 SGLong，所以都是用 llama.cpp。主要拿来迭代我这边的管理后台项目，不算太复杂。

前几天看了老特的视频，让 DeepSeek 帮我部署了 Strata，两张卡跑 Qwen Flash Next 的 IQ3_S。我的体感是：从迭代项目的角度来说，QFN 更好一点，基本任务 90% 能一次通过，比较省心；27B 总会有点这样那样的问题遗留，要多次修改矫正才行。

但 QFN 虽然吐字速度比 27B 快一倍，执行任务时感觉反而比 27B 慢，而且对话 6、7 轮后就明显变得更慢，偶尔还会失败。所以我一般最多 8 轮对话就会重开新会话。

综合省心程度和质量来看，我觉得 QFN > 27B。