4× RTX PRO 6000 Blackwell Max Q
-
是的 水冷也考慮過 不過我先對抗一下大自然的溫度 再考慮下一步...
-
最近終於把這台四卡 AI 工作站弄得差不多。
一開始其實只是想組一台可以舒服跑 ComfyUI 跟本地 LLM 的機器，後來一路升級，最後乾脆直接上 WRX90 + Threadripper PRO，目標就是四張 RTX PRO 6000 Blackwell。中間踩了不少坑，弄了一台外星人，發現他並不適合upgrade 成多GPU的電腦，RAM的上限也有限。
目前配置大概是這樣：
配件 型號 CPU AMD Ryzen Threadripper PRO 9975WX 主板 ASUS Pro WS WRX90E-SAGE SE RAM 256GB DDR5 ECC RDIMM GPU 4× NVIDIA RTX PRO 6000 Blackwell Max-Q 96GB 總顯存 384GB SSD 3× Samsung 990 PRO 4TB PSU Thermaltake Toughpower i1650W ATX 3.1 機箱 Cooler Master HAF 700 EVO 系統 Windows + Ubuntu Dual Boot 
顯卡這台的核心就是：
4× RTX PRO 6000 Blackwell Max-Q 96GB
所以總 VRAM 是：
96GB × 4 = 384GB
主要目的就是跑大模型跟 AI 影片，不是拿來打遊戲。
目前家裡還是 120V，所以我暫時不打算讓四張卡全部跑滿。
現在比較傾向把每張 GPU cap 在大約：
250W四張就是大約 1000W。
這樣至少在家用供電環境下比較好控制，不然四卡全開再加 CPU，整台機器功耗其實滿可怕的。未來可能會專門拉一條240V的線。
老婆OS: 房間的燈怎麼在閃...主要拿來跑什麼目前主要是：
- SGLang
- llama.cpp
- DeepSeek
- Qwen
- GLM
- ComfyUI
- MiniMax Video
- LoRA
- RAG / Agent
看看幾個大型模型在四張 RTX PRO 6000 上面的實際速度。
比較有興趣測：
- DeepSeek V4.1 Flash
- Qwen 大模型
- GLM
- 一些 100B+ 或 MoE 模型
384GB VRAM 最大的好處就是很多模型可以直接放 GPU，不需要一直 offload 到 system RAM。
模型越裝越多之後才發現，12TB 好像也沒有想像中那麼多。為什麼最後上 WRX90一開始其實也有考慮一般消費級平台。
但真的開始考慮四張 GPU 之後，最大的問題就變成：
- PCIe lanes
- 插槽距離
- GPU 空間
- 供電
- RAM 容量
- SSD 擴充
所以最後乾脆直接上：
ASUS Pro WS WRX90E-SAGE SE
搭配 Threadripper PRO。
這平台最大的優點就是很明確：
就是拿來塞一堆 PCIe 裝置的。
不過四張卡真的塞進去之後，主板下面的線會變得非常痛苦。
尤其是：
- FAN header
- Front panel
- USB header
- 底部線材
第四張卡一裝下去，基本上都被壓在下面。可能等thermal pad到了 再優化一下。
SSD 分配目前是三顆 4TB Samsung 990 PRO。
大概分成：
SSD 1 Windows SSD 2 Ubuntu SSD 3 ComfyUI / Models / AI DataWindows 主要還是跑日常工具跟 ComfyUI。
Ubuntu 則是拿來搞：
- CUDA
- SGLang
- vLLM
- Multi-GPU inference
最大的問題目前覺得這種四卡機最大的問題不是算力。
反而是：
- 供電
- 散熱
- PCIe 空間
- 線材
我已經把機殼基本上能裝的風扇全塞滿了，溫度還是不是很理想，特別是跑deep seek v4.1 flash的時候，這個之後還想再研究一下。
之後如果有空，再做一些更進一步的測試，最近北加真的太熱了...@Chu-Hao-Lung 配置很不错，就是单电源1650对工作站来说不知是否稳妥。
第二个问题就是想知道噪音如何，不知楼主有没有分贝计？ 实在没有的话，好像iphone上面也有个，虽不太准但也可以看个大概。
如果尾部出风散热不理想，可以换成100流量以上的暴力工业扇。 -
@Chu-Hao-Lung 配置很不错，就是单电源1650对工作站来说不知是否稳妥。
第二个问题就是想知道噪音如何，不知楼主有没有分贝计？ 实在没有的话，好像iphone上面也有个，虽不太准但也可以看个大概。
如果尾部出风散热不理想，可以换成100流量以上的暴力工业扇。 -
@johnnybegood PRO6000 maxq 的風扇噪音你可以忽略不計，除非是貓頭鷹之類的靜音風扇不然基本上都比他吵，而且預設轉速是不會到100％的
-
-
我剛剛試了一下 可能沒有很精準 但是跟 @cs6 說的差不多 基本上聲音都是來自 風扇 我湊在旁邊大約是60dB
@Chu-Hao-Lung 满载60分贝应该是很舒服了，没想到涡轮扇也能这么给力
-
-
-
-
-
-
我其實是一個工程師有當一個導演的夢...
我想要build up 一個全自動化的電影生成器
基本的流程又是 寫一個故事 之後搭建自動化的翻譯工作流>多卡生成影片>自動判定影片審美 (這邊可能需要我的trainning) 去給score 然後再讓machine learning>
影片的QC> feedback > 生成最後的成果以現在AI 進步的速度 我想人類最後存在的價值 就是各自獨立的審美 如果我可以train 我的agent/ skill 基本上就可以穩定的生成我想要的東西 但是我目前的knowledge 還遠遠不夠 都是一些初步的構想
我其實是一個工程師有當一個導演的夢...
我想要build up 一個全自動化的電影生成器
基本的流程又是 寫一個故事 之後搭建自動化的翻譯工作流>多卡生成影片>自動判定影片審美 (這邊可能需要我的trainning) 去給score 然後再讓machine learning>
影片的QC> feedback > 生成最後的成果以現在AI 進步的速度 我想人類最後存在的價值 就是各自獨立的審美 如果我可以train 我的agent/ skill 基本上就可以穩定的生成我想要的東西 但是我目前的knowledge 還遠遠不夠 都是一些初步的構想
同道中人
-
這是不錯的建議 我打算換一個輕一點的機殼 可能再看看怎麼安排桌子 可以做到熱空氣可以直接往外排
@Chu-Hao-Lung
我用組合架高低可以自己調. -
-
-
-
-
@chu-hao-lung 请教一下，ComfyUI 工作流是如何分配这4张六爷进行工作的？
一般 comfyUI 工作流 單卡基本上足夠了 未來打算讓三卡跑模型 單卡跑LLM 看不同任務 做不同的切換
-
-
一般 comfyUI 工作流 單卡基本上足夠了 未來打算讓三卡跑模型 單卡跑LLM 看不同任務 做不同的切換
一般 comfyUI 工作流 單卡基本上足夠了 未來打算讓三卡跑模型 單卡跑LLM 看不同任務 做不同的切換
谢谢分享，我的思维在停留在16G，24G显存的显卡上，忘记了大神你用的是六爷。是我的问题，我要去反省了。
