【實測】4× RTX PRO 6000：DeepSeek V4.1 Flash 原版 vs 1017，單人生成提升約 51%

[lunarmoon26]

羡慕了 两张pro6000跑不了

[Thanaots]

是max-q吗？否则电源怎么带得动？

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2405-3559-1（系统自动发放，显示稍有延迟）

[Chu Hao-Lung]

@ivan-lan

眼一黑 就變成這個模樣了...

[Chu Hao-Lung]

@lunarmoon26

對.. 做了一些研究
兩張很適合 例如一張卡跑影片模型 一張卡跑LLM
三張 可以讓兩張跑300B左右的模型 一張跑影片 或是小模型一張卡 另外兩張跑影片 增加throughput
如果三張 也可以免強跑得起來 利用CPU offload 但是tps會掉很嚴重 可能long term 不是一個很舒服的position...
四張 個人認為 是現階段家裡硬件的天花板了
以現在的DDR5 的 RAM 要8張插滿64G 價錢會比單張RTX pro 還貴..
如果要在進階 就只能去升級成水冷 去解放GPU的厚度
不然就是真的在家放個rack 現階段暫時也不考慮...

[Chu Hao-Lung]

@Thanaots

對 max-q. power capped at 250W. 所以我還可以用1650W 的PSU

[george]

可以开个API让小弟试试吗

[fly86]

Chu-Hao-Lung 嗯，比我单卡温度还低，我的运行常态在87~89度。中间两个卡，看起来只有从卡间一点缝隙吸入，没想到散热效果还好。搞不好是从上到下串起来进气，这就说得通了。

[Chu Hao-Lung]

@fly86

我是有調風扇的轉速的 我大概設定到溫度超過75度 就會讓fan 調整成100%

[fly86]

@Chu-Hao-Lung

[myway]

这是什么电源啊 能带 4 张 PRO 6000 ，顺便问一下坛友 有专属 API 吗？

[xiaopbro]

膨胀了，这种帖子都敢点进来看