4× RTX PRO 6000 Blackwell Max Q
-
最近終於把這台四卡 AI 工作站弄得差不多。
一開始其實只是想組一台可以舒服跑 ComfyUI 跟本地 LLM 的機器,後來一路升級,最後乾脆直接上 WRX90 + Threadripper PRO,目標就是四張 RTX PRO 6000 Blackwell。中間踩了不少坑,弄了一台外星人,發現他並不適合upgrade 成多GPU的電腦,RAM的上限也有限。
目前配置大概是這樣:
配件 型號 CPU AMD Ryzen Threadripper PRO 9975WX 主板 ASUS Pro WS WRX90E-SAGE SE RAM 256GB DDR5 ECC RDIMM GPU 4× NVIDIA RTX PRO 6000 Blackwell Max-Q 96GB 總顯存 384GB SSD 3× Samsung 990 PRO 4TB PSU Thermaltake Toughpower i1650W ATX 3.1 機箱 Cooler Master HAF 700 EVO 系統 Windows + Ubuntu Dual Boot 

顯卡這台的核心就是:
4× RTX PRO 6000 Blackwell Max-Q 96GB
所以總 VRAM 是:
96GB × 4 = 384GB
主要目的就是跑大模型跟 AI 影片,不是拿來打遊戲。
目前家裡還是 120V,所以我暫時不打算讓四張卡全部跑滿。
現在比較傾向把每張 GPU cap 在大約:
250W四張就是大約 1000W。
這樣至少在家用供電環境下比較好控制,不然四卡全開再加 CPU,整台機器功耗其實滿可怕的。未來可能會專門拉一條240V的線。
老婆OS: 房間的燈怎麼在閃...主要拿來跑什麼目前主要是:
- SGLang
- llama.cpp
- DeepSeek
- Qwen
- GLM
- ComfyUI
- MiniMax Video
- LoRA
- RAG / Agent
看看幾個大型模型在四張 RTX PRO 6000 上面的實際速度。
比較有興趣測:
- DeepSeek V4.1 Flash
- Qwen 大模型
- GLM
- 一些 100B+ 或 MoE 模型
384GB VRAM 最大的好處就是很多模型可以直接放 GPU,不需要一直 offload 到 system RAM。
模型越裝越多之後才發現,12TB 好像也沒有想像中那麼多。為什麼最後上 WRX90一開始其實也有考慮一般消費級平台。
但真的開始考慮四張 GPU 之後,最大的問題就變成:
- PCIe lanes
- 插槽距離
- GPU 空間
- 供電
- RAM 容量
- SSD 擴充
所以最後乾脆直接上:
ASUS Pro WS WRX90E-SAGE SE
搭配 Threadripper PRO。
這平台最大的優點就是很明確:
就是拿來塞一堆 PCIe 裝置的。
不過四張卡真的塞進去之後,主板下面的線會變得非常痛苦。
尤其是:
- FAN header
- Front panel
- USB header
- 底部線材
第四張卡一裝下去,基本上都被壓在下面。可能等thermal pad到了 再優化一下。
SSD 分配目前是三顆 4TB Samsung 990 PRO。
大概分成:
SSD 1 Windows SSD 2 Ubuntu SSD 3 ComfyUI / Models / AI DataWindows 主要還是跑日常工具跟 ComfyUI。
Ubuntu 則是拿來搞:
- CUDA
- SGLang
- vLLM
- Multi-GPU inference
最大的問題目前覺得這種四卡機最大的問題不是算力。
反而是:
- 供電
- 散熱
- PCIe 空間
- 線材
我已經把機殼基本上能裝的風扇全塞滿了,溫度還是不是很理想,特別是跑deep seek v4.1 flash的時候,這個之後還想再研究一下。
之後如果有空,再做一些更進一步的測試,最近北加真的太熱了... -
-
-
-
-
这才是homelab顶配哈,佩服
-
-
-
车库没有240V?
-
车库没有240V?
@Bruce-Wayne
有 但是有幾個考量:- 車庫可能空氣循環不是很好 可能在溫度控制上 會比房間差一點
- 我也確實想過我是不是應該remote log in the system可是這樣好像又失去直接用電腦的爽感
- 電腦真的太重了...我扛上三樓 要了我老命 先緩緩..
-
眼睛一黑, 就不小心從 5090 > 6000 >2 x 6000 >4 x 6000 太可怕了...
-
我其實是一個工程師有當一個導演的夢...
我想要build up 一個全自動化的電影生成器
基本的流程又是 寫一個故事 之後搭建自動化的翻譯工作流>多卡生成影片>自動判定影片審美 (這邊可能需要我的trainning) 去給score 然後再讓machine learning>
影片的QC> feedback > 生成最後的成果以現在AI 進步的速度 我想人類最後存在的價值 就是各自獨立的審美 如果我可以train 我的agent/ skill 基本上就可以穩定的生成我想要的東西 但是我目前的knowledge 還遠遠不夠 都是一些初步的構想
-
電影製作方面 或許可以參考 Ben Affleck, 李飛飛 世界模型(World Model)
之前使用過ComfyUI Minimax-H3,發現最難的就是怎麼安排不同的場景,有精確的Prompt 達成想要的分鏡效果(畫面)
或許已經有導演和編劇專業的Agent/model 了 可以滿足這樣的需求
也可以試試用相關的datasets 作LoRA, QLoRA 客製化一個model”Netflix 斥資 5.87 億美元收購了本·阿弗萊克的 AI 電影技術新創公司 InterPositive,這是一項重磅投資,旨在利用生成工具重塑電影和劇集的製作方式。“
-
-
-
-
-
这是目前最合理的配置了。
家用的顶配。
RTX PRO 6000 Blackwell Max-Q 96GB 噪音测试非常OK。主机可以放脚边工作。放桌面声音也可以接受。 -
電影製作方面 或許可以參考 Ben Affleck, 李飛飛 世界模型(World Model)
之前使用過ComfyUI Minimax-H3,發現最難的就是怎麼安排不同的場景,有精確的Prompt 達成想要的分鏡效果(畫面)
或許已經有導演和編劇專業的Agent/model 了 可以滿足這樣的需求
也可以試試用相關的datasets 作LoRA, QLoRA 客製化一個model”Netflix 斥資 5.87 億美元收購了本·阿弗萊克的 AI 電影技術新創公司 InterPositive,這是一項重磅投資,旨在利用生成工具重塑電影和劇集的製作方式。“
-

版主审定:本帖设为精华,作者 +5 积分奖励,希望再接再厉!
本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!