64GB vs 96GB跑Strata Flash-Next

[paul hou]

我只有32g ddr4 還是勉強跑起來了。

[Henry Chiu 0]

@paul-hou 對, 我相信64GB絕對能跑起來, 但想要同時能順暢互動+輕度工作, 不會開個瀏覽器或開個PS畫圖都很慢, 想看看有沒有大大分享經驗.

[exllm]

如果是linux， 64G应该就能跑起来, 但比较紧张， 我是96G， 跑IQ3_S 512k上下文， 系统内存占用 57G

[applejuice]

我刚好就是从64gb 去256gb
没差别
但是不觉得可以同时开comfyui
再但是 你单张显卡也不可能 同时开strata 跟comfy ui

[Xiaoyong S]

16G显存，64G内存，Strata起来内存就57GB了，显存基本满了。开浏览器没问题，轻度编辑器也行，但是PS还是不用试了吧，它也是内存大户。也没显存给comfy ui的。

[Henry Chiu 0]

@applejuice 謝謝回應, 很有參考價值. 就是64/96GB對跑Strata沒有太大分別, 但想同時做些輕度任務, 96GB就流暢許多, 這樣理解嗎?

[applejuice]

@Henry-Chiu-0 就是这样 但是我是无头Ubuntu

[Henry Chiu 0]

如果是這樣, 那是不是分開兩台機, 一台A只負責跑Strata flash next或27B, 另一台B跑MCP/comfyui, 需要時再叫A連接到B操作B, 這樣也可行嗎? 那A只要64GB也好像可以了.

[applejuice]

如果两个都要同时跑 也只有这样
不然就x99服务器 插2张卡

[farmer node]

我也是无头Ubuntu ，2*7900xtx ， EYPC, DDR4 128G, 128G 刚好同时跑 strata 和生视屏，内存刚够，除非你不同时跑， 或者是 跑 27b 稠密模型，那么是每问题的。

[Henry Chiu 0]

@farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.

[XIUNAN ZHI]

5060ti 16g + 128g DDR4 3200 , Strata IQ3_XXS , decode 70tps. 但是，IQ3 精度不行，agent task 连续运行5次，都失败了，失败原因： 模型输出内容 pydantic 验证失败，同一个task ，我用在线的Ds v4，本地部署的 qwen3.8 27b FP8 ，都可以完成。 这个agent task，其实就是一个work flow，step 与 step 之间的LLM output需要加工处理。因此，在一些high quality要求的场景，最好有Q8以上精度，除非任务本身对正确率没有要求。

[Henry Chiu 0]

@XIUNAN-ZHI 暫時預算不夠去128gb, haha, 只有24GB卡跑27B. 所以我才糾結要不要96GB ram 跑flash next.

[he wanga]

我覺得是96GB，並且未來預期升至128GB，
因為我目前是64GB，IQ3_S + 256K系統內存只剩7~9GB浮動
當然這是case by case，不過有些耳聞IQ4是比較夠用的，未來能保留升級空間也好
況且如果你是想一起執行dsh或hermes等agent，那勢必還得留出20~30GB剩餘浮動內存好

[XIUNAN ZHI]

@Henry-Chiu-0 普通内存不算贵吧，如果服务器内存就算了

[stxpnet]

别人的，V100 4卡。96G显存【仔细看，他的是32+32+16+16】，QFN 3.8 Q6_K_XL，写出来的鹈鹕：

【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】

另外说个题外话，我在X上面看 STRATA的作者，应该是个老美，感觉非常负责。如果你的硬件比较典型，又觉得还没发挥到极致，可以私信把机器控制权给他，他远程用CLUADE了解情况，升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。

[Henry Chiu 0]

@XIUNAN-ZHI 其實也不算貴, 只是該組合64GB跟96GB差距是7000塊, 覺得性價比是否值得

[XIUNAN ZHI]

@stxpnet 支持多卡了吗？我以为只能单卡。Q6精度，有时间我也试试。

[farmer node]

@Henry-Chiu-0 跑都能跑，64G 只是刚好够门槛，跑Strata IQ3_XXS ， Strata IQ3_S可能也够，但是你说的其他的更多服务就不要想了。想要更好的体验 还是用96G ，而且后续可能还有4.0 flash next ，内存还是越大越好。

[terry]

64G内存入门，128G起飞。