64GB vs 96GB跑Strata Flash-Next
-
@paul-hou 對, 我相信64GB絕對能跑起來, 但想要同時能順暢互動+輕度工作, 不會開個瀏覽器或開個PS畫圖都很慢, 想看看有沒有大大分享經驗.
-
-
-
16G显存，64G内存，Strata起来内存就57GB了，显存基本满了。开浏览器没问题，轻度编辑器也行，但是PS还是不用试了吧，它也是内存大户。也没显存给comfy ui的。
-
我刚好就是从64gb 去256gb
没差别
但是不觉得可以同时开comfyui
再但是 你单张显卡也不可能 同时开strata 跟comfy ui@applejuice 謝謝回應, 很有參考價值. 就是64/96GB對跑Strata沒有太大分別, 但想同時做些輕度任務, 96GB就流暢許多, 這樣理解嗎?
-
@applejuice 謝謝回應, 很有參考價值. 就是64/96GB對跑Strata沒有太大分別, 但想同時做些輕度任務, 96GB就流暢許多, 這樣理解嗎?
@Henry-Chiu-0 就是这样 但是我是无头Ubuntu
-
如果是這樣, 那是不是分開兩台機, 一台A只負責跑Strata flash next或27B, 另一台B跑MCP/comfyui, 需要時再叫A連接到B操作B, 這樣也可行嗎? 那A只要64GB也好像可以了.
-
-
-
我也是无头Ubuntu ，2*7900xtx ， EYPC, DDR4 128G, 128G 刚好同时跑 strata 和生视屏，内存刚够，除非你不同时跑， 或者是 跑 27b 稠密模型，那么是每问题的。
@farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.
-
5060ti 16g + 128g DDR4 3200 , Strata IQ3_XXS , decode 70tps. 但是，IQ3 精度不行，agent task 连续运行5次，都失败了，失败原因： 模型输出内容 pydantic 验证失败，同一个task ，我用在线的Ds v4，本地部署的 qwen3.8 27b FP8 ，都可以完成。 这个agent task，其实就是一个work flow，step 与 step 之间的LLM output需要加工处理。因此，在一些high quality要求的场景，最好有Q8以上精度，除非任务本身对正确率没有要求。
-
5060ti 16g + 128g DDR4 3200 , Strata IQ3_XXS , decode 70tps. 但是，IQ3 精度不行，agent task 连续运行5次，都失败了，失败原因： 模型输出内容 pydantic 验证失败，同一个task ，我用在线的Ds v4，本地部署的 qwen3.8 27b FP8 ，都可以完成。 这个agent task，其实就是一个work flow，step 与 step 之间的LLM output需要加工处理。因此，在一些high quality要求的场景，最好有Q8以上精度，除非任务本身对正确率没有要求。
@XIUNAN-ZHI 暫時預算不夠去128gb, haha, 只有24GB卡跑27B. 所以我才糾結要不要96GB ram 跑flash next.
-
-
@XIUNAN-ZHI 暫時預算不夠去128gb, haha, 只有24GB卡跑27B. 所以我才糾結要不要96GB ram 跑flash next.
-
别人的，V100 4卡。96G显存【仔细看，他的是32+32+16+16】，QFN 3.8 Q6_K_XL，写出来的鹈鹕：
【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】
另外说个题外话，我在X上面看 STRATA的作者，应该是个老美，感觉非常负责。如果你的硬件比较典型，又觉得还没发挥到极致，可以私信把机器控制权给他，他远程用CLUADE了解情况，升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。
-
@Henry-Chiu-0 普通内存不算贵吧，如果服务器内存就算了
@XIUNAN-ZHI
其實也不算貴, 只是該組合64GB跟96GB差距是7000塊, 覺得性價比是否值得 -
别人的，V100 4卡。96G显存【仔细看，他的是32+32+16+16】，QFN 3.8 Q6_K_XL，写出来的鹈鹕：
【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】
另外说个题外话，我在X上面看 STRATA的作者，应该是个老美，感觉非常负责。如果你的硬件比较典型，又觉得还没发挥到极致，可以私信把机器控制权给他，他远程用CLUADE了解情况，升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。
@stxpnet 支持多卡了吗？我以为只能单卡。Q6精度，有时间我也试试。
-
@farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.
@Henry-Chiu-0 跑都能跑，64G 只是刚好够门槛，跑Strata IQ3_XXS ， Strata IQ3_S可能也够，但是你说的其他的更多服务就不要想了。想要更好的体验 还是用96G ，而且后续可能还有4.0 flash next ，内存还是越大越好。
-
-
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！