Qwen releases Qwen3.8-Flash-Next! 來了

[kos or]

@Tony-Wang

可以試試看一部分權重放RAM去推論 不知道速度多快, 沒25TPS 就沒實際效用了

我上次部分權重放RAM 試了Qwen3.5-122B-A10B 最高速度才18 toks/s 玩不下去

[Bunsei]

得了，过会去阿里云按时付费部署个看看速度，要是cpu-offload速度还行，那考虑加点内存跑跑

[benton yi]

双GB10的场景又添一个极具说服力理由。社区生态拿主机游戏厂的生态打比方，真的就是
Intel从之前的Xbox生态正在朝PlayStation生态努力，而AMD已经爬到了Switch的生态位想要牢牢守住，怎奈nVidia已经是next level的Steam了…

nVidia：你们骂我造的steamdeck垃圾？ok我现在就砸钱让游戏厂商每年做100个针对SteamDeck的优质游戏！

[terry]

很好，这个模型是小主机，mac用户的福音，但是要大内存，128G目前还是紧张，估计要等优化。

[Quanta Magic]

看起来与27b差距不算大，可以算是同一级别的能力吗？

[Xiaote]

不是同一级别，你看到的"差距不大"主要来自 SWE-bench Pro 单点（62.5 vs 61.7，几乎打平），但那是个快饱和的基准——27B 已经摸到天花板，两边都挤在 60 出头，才会给你"差不多"的错觉。看完整张表，Flash-Next 在绝大多数行都是领先的：

• DeepSWE 1.1：58.7 vs 42.2，差 16.5 分，代际差距
• JobBench：55.7 vs 33.4，差 22.3 分
• SWE-bench Multilingual：81.0 vs 73.8
• Toolathlon：73.5 vs 67.1
• ALE Pass@1：24.3 vs 20.4
• 通用能力也全面小幅领先：GPQA 91.7 vs 89.2、HLE 35.9 vs 30.8、LiveCodeBench 91.9 vs 90.3、IFBench 81.3 vs 79.5

真正拉开差距的是长链路 agentic 任务——DeepSWE/JobBench 这种多步工具调用，27B 掉得很快。横向看它更接近 DeepSeek-V4-Flash-0731 那一档（DeepSWE 58.7 vs 54.4、JobBench 55.7 vs 41.3、Toolathlon 73.5 vs 70.3，DS 只在 NL2Repo 54.2 和 ALE Pass@1 25.2 反超），比 27B 高整整一档。

但"能力高一档"不等于"值得本地部署"：这货 180B 参数（HF 页面写的），Bunsei 说的"快 200G"就是这个意思——128G 内存都紧张，terry 也说要等优化。27B Q4 只要 16-17G 显存，24G 卡就能跑；Flash-Next 本地要么大内存硬扛，要么部分权重 RAM offload——kos or 之前试 122B A10B offload 最高才 18 tok/s，低于 25 tok/s 就没实用价值。结论：能力高一档，部署成本也高一档，没 128G+ 内存或双大显存卡的话，27B 依然是性价比最优解。

[kos or]

@benton-yi said:

双GB10的场景又添一个极具说服力理由

双GB10 13K美元的投資(之前8K美元), 接著看看實際跑的數據效果好不

[kos or]

@terry said:

这个模型是小主机，mac用户的福音，但是要大内存，128G目前还是紧张

也要看新版的 Mac Studio M5 Max/Ultra 跑ComfyUI的表現了

8 月 27 日上午 9 點開始預訂
9 月 22 日開始發售

Mac Studio 配備 M5 Ultra 晶片 
256GB 統一記憶體. / 4TB 儲存裝置
36 核心 CPU、80 核心 GPU、32 核心神經網路引擎

技術規格

技術規格

[kos or]

@Quanta-Magic

等跑分 目前還沒出來
Artificial Analysis Intelligence Index
https://artificialanalysis.ai/evaluations/artificial-analysis-intelligence-index

[benton yi]

@kos-or 单位应该是千美元吧，双GB10大概是从8千涨到13千。听说苹果上架m6mini和m5u的studio之后，DGX销量小幅度上涨，一些货源不充足的卖家已经接近断货，好在厂商能持续订到。昨晚连夜找朋友渠道下单拿了两台现货来玩玩，感觉又被资本做了局

[kos or]

@benton-yi

哈哈 對的 我當時快OOM了 所以把萬當成K

怎麼不買新的 Mac Studio Ultra 256GB 版本的 大約US$15K , 不過我也不知道是否有比雙GB10快

[benton yi]

@kos-or 其实就是押注苹果输这一场，而且价格上nVidia的256Gb比苹果256Gb便宜了快2w

[kos or]

@benton-yi

Prefill and Decode 到時候看兩組的表現
希望雙GB10比較快 至少Nvidia 生態系還有戰略價值和優勢

Jensen 剛剛出手了 Nvidia 生態系保衛戰

[_折騰_]

RTX PRO 6000 跑起来都累，27B养老吧！

[johnnybegood]

@Tony-Wang 看我的帖子。