我的显存是（8G、12G、24G、32G、48G… 512G）的话，到底能做什么？

[rock shi]

96g还可以跑qwen3.8 Flash next 4bit量化，n-gram放在ssd

[terry]

@rock-shi 这是个不错的选择，但是这个模型很慢，体验没27B好，好处是知识面全。

[rock shi]

@terry 27b目前确实太天花板了

[kos or]

@terry

Reddit 網友們也是在討論 qwen3.8 Flash next 體驗沒27B好, 沒必要為了qwen3.8 Flash next 升級硬體, 使用27B就夠應付大多數的場景

[rock shi]

@kos-or 对于准96g mac用户，还是蛮期待未来迭代。毕竟大参数里只有它能塞得进96g mac，显存空间弥补了70b规模的断档

[kos or]

@rock-shi

我沒有Mac Mini, Macbook Pro, Mac Studio, 但根據網路使用者的反饋是Mac適合跑 MoE model, 不適合跑 Dense model, 未來看看MoE和 Dense models 的發展吧 只要生活上和工作上夠用 都很好

[rock shi]

@kos-or 是的是的

[PEN CHI LIN]

補充一下雙5060TI的速度感覺也沒那麼不堪，就是顯存小硬傷，生視頻不好玩!

[applejuice]

@PEN-CHI-LIN

上4 5060呗

[PEN CHI LIN]

@applejuice 5060 出掉了前陣子呆灣這兩張5060比一張9700還貴，我直接出掉換兩張9700。16G想玩minimax h3很痛苦= = !

[80zhangyan]

@PEN-CHI-LIN 使用LLM足够了