64GB vs 96GB跑Strata Flash-Next
-
-
-
16G显存，64G内存，Strata起来内存就57GB了，显存基本满了。开浏览器没问题，轻度编辑器也行，但是PS还是不用试了吧，它也是内存大户。也没显存给comfy ui的。
-
我刚好就是从64gb 去256gb
没差别
但是不觉得可以同时开comfyui
再但是 你单张显卡也不可能 同时开strata 跟comfy ui@applejuice 謝謝回應, 很有參考價值. 就是64/96GB對跑Strata沒有太大分別, 但想同時做些輕度任務, 96GB就流暢許多, 這樣理解嗎?
-
@applejuice 謝謝回應, 很有參考價值. 就是64/96GB對跑Strata沒有太大分別, 但想同時做些輕度任務, 96GB就流暢許多, 這樣理解嗎?
@Henry-Chiu-0 就是这样 但是我是无头Ubuntu
-
如果是這樣, 那是不是分開兩台機, 一台A只負責跑Strata flash next或27B, 另一台B跑MCP/comfyui, 需要時再叫A連接到B操作B, 這樣也可行嗎? 那A只要64GB也好像可以了.
-
-
-
我也是无头Ubuntu ，2*7900xtx ， EYPC, DDR4 128G, 128G 刚好同时跑 strata 和生视屏，内存刚够，除非你不同时跑， 或者是 跑 27b 稠密模型，那么是每问题的。
@farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.
-
5060ti 16g + 128g DDR4 3200 , Strata IQ3_XXS , decode 70tps. 但是，IQ3 精度不行，agent task 连续运行5次，都失败了，失败原因： 模型输出内容 pydantic 验证失败，同一个task ，我用在线的Ds v4，本地部署的 qwen3.8 27b FP8 ，都可以完成。 这个agent task，其实就是一个work flow，step 与 step 之间的LLM output需要加工处理。因此，在一些high quality要求的场景，最好有Q8以上精度，除非任务本身对正确率没有要求。
-
5060ti 16g + 128g DDR4 3200 , Strata IQ3_XXS , decode 70tps. 但是，IQ3 精度不行，agent task 连续运行5次，都失败了，失败原因： 模型输出内容 pydantic 验证失败，同一个task ，我用在线的Ds v4，本地部署的 qwen3.8 27b FP8 ，都可以完成。 这个agent task，其实就是一个work flow，step 与 step 之间的LLM output需要加工处理。因此，在一些high quality要求的场景，最好有Q8以上精度，除非任务本身对正确率没有要求。
@XIUNAN-ZHI 暫時預算不夠去128gb, haha, 只有24GB卡跑27B. 所以我才糾結要不要96GB ram 跑flash next.
-
-
@XIUNAN-ZHI 暫時預算不夠去128gb, haha, 只有24GB卡跑27B. 所以我才糾結要不要96GB ram 跑flash next.
-
别人的，V100 4卡。96G显存【仔细看，他的是32+32+16+16】，QFN 3.8 Q6_K_XL，写出来的鹈鹕：
【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】
另外说个题外话，我在X上面看 STRATA的作者，应该是个老美，感觉非常负责。如果你的硬件比较典型，又觉得还没发挥到极致，可以私信把机器控制权给他，他远程用CLUADE了解情况，升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。
-
@Henry-Chiu-0 普通内存不算贵吧，如果服务器内存就算了
@XIUNAN-ZHI
其實也不算貴, 只是該組合64GB跟96GB差距是7000塊, 覺得性價比是否值得 -
别人的，V100 4卡。96G显存【仔细看，他的是32+32+16+16】，QFN 3.8 Q6_K_XL，写出来的鹈鹕：
【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】
另外说个题外话，我在X上面看 STRATA的作者，应该是个老美，感觉非常负责。如果你的硬件比较典型，又觉得还没发挥到极致，可以私信把机器控制权给他，他远程用CLUADE了解情况，升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。
@stxpnet 支持多卡了吗？我以为只能单卡。Q6精度，有时间我也试试。
-
@farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.
@Henry-Chiu-0 跑都能跑，64G 只是刚好够门槛，跑Strata IQ3_XXS ， Strata IQ3_S可能也够，但是你说的其他的更多服务就不要想了。想要更好的体验 还是用96G ，而且后续可能还有4.0 flash next ，内存还是越大越好。
-
-
-
看見各位大大都在跑分和測試, 想知道內存對使用體感的差別. 都知道最好能上128GB, 但預算不夠, 96GB跟64GB相差3千塊, 在糾結. 沒有剛需, 但比較多用各式MCP, 如blender/comfyui/aftereffect/C4D....等, 只是剛好要多組一台機, 就覺得不跑白不跑. 如果Flash-Next跑在64GB上系統其實還有空間多工, 就想省下3千塊,還是大大覺得現在省3千塊, 之後就要6千塊, 哈哈. 要不跑27B算了.
@Henry-Chiu-0 我买了128， 跑iq3_s， 7900xtx。因为ssd太慢，把ple表放进内存，最后连系统一共用了87g内存。等nvme有打折，我得换一个ssd
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！