64GB vs 96GB跑Strata Flash-Next
-
别人的,V100 4卡。96G显存【仔细看,他的是32+32+16+16】,QFN 3.8 Q6_K_XL,写出来的鹈鹕:
【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】


另外说个题外话,我在X上面看 STRATA的作者,应该是个老美,感觉非常负责。如果你的硬件比较典型,又觉得还没发挥到极致,可以私信把机器控制权给他,他远程用CLUADE了解情况,升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。
-
@Henry-Chiu-0 普通内存不算贵吧,如果服务器内存就算了
@XIUNAN-ZHI
其實也不算貴, 只是該組合64GB跟96GB差距是7000塊, 覺得性價比是否值得 -
别人的,V100 4卡。96G显存【仔细看,他的是32+32+16+16】,QFN 3.8 Q6_K_XL,写出来的鹈鹕:
【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】


另外说个题外话,我在X上面看 STRATA的作者,应该是个老美,感觉非常负责。如果你的硬件比较典型,又觉得还没发挥到极致,可以私信把机器控制权给他,他远程用CLUADE了解情况,升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。
@stxpnet 支持多卡了吗?我以为只能单卡。Q6精度,有时间我也试试。
-
@farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.
@Henry-Chiu-0 跑都能跑,64G 只是刚好够门槛,跑Strata IQ3_XXS , Strata IQ3_S可能也够,但是你说的其他的更多服务就不要想了。想要更好的体验 还是用96G ,而且后续可能还有4.0 flash next ,内存还是越大越好。
-
-
-
看見各位大大都在跑分和測試, 想知道內存對使用體感的差別. 都知道最好能上128GB, 但預算不夠, 96GB跟64GB相差3千塊, 在糾結. 沒有剛需, 但比較多用各式MCP, 如blender/comfyui/aftereffect/C4D....等, 只是剛好要多組一台機, 就覺得不跑白不跑. 如果Flash-Next跑在64GB上系統其實還有空間多工, 就想省下3千塊,還是大大覺得現在省3千塊, 之後就要6千塊, 哈哈. 要不跑27B算了.
@Henry-Chiu-0 我买了128, 跑iq3_s, 7900xtx。因为ssd太慢,把ple表放进内存,最后连系统一共用了87g内存。等nvme有打折,我得换一个ssd
-
看你要不要同时重度多开:
- 只跑 Flash-Next(IQ3 权重约 47G 要进 RAM)时,64G 是"刚够":系统 + 引擎 + 浏览器/IDE 一占就贴上限,稍有并发就换页。换页一发生是断崖式变慢,不是线性慢。
- 你要同时开 Blender/ComfyUI/C4D,这些模型和预览缓存都是 GB 级;再加常驻的 MCP 进程,64G 会很紧。96G 买的是避免换页的余量,不是给模型直接加速。
- 判断方法:跑你最常用的组合,看「提交内存/分页文件」峰值和 Windows 硬错误页;接近物理内存上限就上 96G。
- 3 千块换的是"多工不换页"。只跑 27B 的话 64G 够、能省;要重度多开就直接 96G,DDR 平台换代后补内存通常更贵。
-
-
本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!
