我的显存是（8G、12G、24G、32G、48G… 512G）的话，到底能做什么？

[kos or]

集結論壇精華 感謝

[Chu Hao-Lung]

@imbiplaza-ASUS 我也糾結這個點很久 以下都是個人論點 歡迎理性開放討論

RTX pro 6000 600W
優點: 性能滿血 滿執行的時候音量較小
缺點: 也是有燒接口的風險

RTX pro 6000 max Q 300W
優點: 體積較小 省電 適合多卡執行 不太需要擔心燒口
缺點: 性能大約下降7-15% 跑滿載 聲音不小

在各方面考慮下 以及長遠使用 我還是選擇max Q, 至於價位 在美國兩張卡是一樣的 如果要二手賣給卡販子 600W 他們比較願意收

[imbiplaza ASUS]

@Chu-Hao-Lung

等多三年，我们去捡 rtxpro 的洋垃圾

[rock shi]

96g还可以跑qwen3.8 Flash next 4bit量化，n-gram放在ssd

[terry]

@rock-shi 这是个不错的选择，但是这个模型很慢，体验没27B好，好处是知识面全。

[rock shi]

@terry 27b目前确实太天花板了

[kos or]

@terry

Reddit 網友們也是在討論 qwen3.8 Flash next 體驗沒27B好, 沒必要為了qwen3.8 Flash next 升級硬體, 使用27B就夠應付大多數的場景

[rock shi]

@kos-or 对于准96g mac用户，还是蛮期待未来迭代。毕竟大参数里只有它能塞得进96g mac，显存空间弥补了70b规模的断档

[kos or]

@rock-shi

我沒有Mac Mini, Macbook Pro, Mac Studio, 但根據網路使用者的反饋是Mac適合跑 MoE model, 不適合跑 Dense model, 未來看看MoE和 Dense models 的發展吧 只要生活上和工作上夠用 都很好

[rock shi]

@kos-or 是的是的

[PEN CHI LIN]

補充一下雙5060TI的速度感覺也沒那麼不堪，就是顯存小硬傷，生視頻不好玩!

[applejuice]

@PEN-CHI-LIN

上4 5060呗

[PEN CHI LIN]

@applejuice 5060 出掉了前陣子呆灣這兩張5060比一張9700還貴，我直接出掉換兩張9700。16G想玩minimax h3很痛苦= = !

[80zhangyan]

@PEN-CHI-LIN 使用LLM足够了