最近終於把這台四卡 AI 工作站弄得差不多。
一開始其實只是想組一台可以舒服跑 ComfyUI 跟本地 LLM 的機器，後來一路升級，最後乾脆直接上 WRX90 + Threadripper PRO，目標就是四張 RTX PRO 6000 Blackwell。中間踩了不少坑，弄了一台外星人，發現他並不適合upgrade 成多GPU的電腦，RAM的上限也有限。
目前配置大概是這樣：
| 配件 | 型號 |
|---|---|
| CPU | AMD Ryzen Threadripper PRO 9975WX |
| 主板 | ASUS Pro WS WRX90E-SAGE SE |
| RAM | 256GB DDR5 ECC RDIMM |
| GPU | 4× NVIDIA RTX PRO 6000 Blackwell Max-Q 96GB |
| 總顯存 | 384GB |
| SSD | 3× Samsung 990 PRO 4TB |
| PSU | Thermaltake Toughpower i1650W ATX 3.1 |
| 機箱 | Cooler Master HAF 700 EVO |
| 系統 | Windows + Ubuntu Dual Boot |
顯卡
這台的核心就是：
4× RTX PRO 6000 Blackwell Max-Q 96GB
所以總 VRAM 是：
96GB × 4 = 384GB
主要目的就是跑大模型跟 AI 影片，不是拿來打遊戲。
目前家裡還是 120V，所以我暫時不打算讓四張卡全部跑滿。
現在比較傾向把每張 GPU cap 在大約：
250W
四張就是大約 1000W。
這樣至少在家用供電環境下比較好控制，不然四卡全開再加 CPU，整台機器功耗其實滿可怕的。未來可能會專門拉一條240V的線。
老婆OS: 房間的燈怎麼在閃...
主要拿來跑什麼
目前主要是：
- SGLang
- llama.cpp
- DeepSeek
- Qwen
- GLM
- ComfyUI
- MiniMax Video
- LoRA
- RAG / Agent
看看幾個大型模型在四張 RTX PRO 6000 上面的實際速度。
比較有興趣測：
- DeepSeek V4.1 Flash
- Qwen 大模型
- GLM
- 一些 100B+ 或 MoE 模型
384GB VRAM 最大的好處就是很多模型可以直接放 GPU，不需要一直 offload 到 system RAM。
模型越裝越多之後才發現，12TB 好像也沒有想像中那麼多。
為什麼最後上 WRX90
一開始其實也有考慮一般消費級平台。
但真的開始考慮四張 GPU 之後，最大的問題就變成：
- PCIe lanes
- 插槽距離
- GPU 空間
- 供電
- RAM 容量
- SSD 擴充
所以最後乾脆直接上：
ASUS Pro WS WRX90E-SAGE SE
搭配 Threadripper PRO。
這平台最大的優點就是很明確：
就是拿來塞一堆 PCIe 裝置的。
不過四張卡真的塞進去之後，主板下面的線會變得非常痛苦。
尤其是：
- FAN header
- Front panel
- USB header
- 底部線材
第四張卡一裝下去，基本上都被壓在下面。可能等thermal pad到了 再優化一下。
SSD 分配
目前是三顆 4TB Samsung 990 PRO。
大概分成：
SSD 1
Windows
SSD 2
Ubuntu
SSD 3
ComfyUI / Models / AI Data
Windows 主要還是跑日常工具跟 ComfyUI。
Ubuntu 則是拿來搞：
- CUDA
- SGLang
- vLLM
- Multi-GPU inference
最大的問題
目前覺得這種四卡機最大的問題不是算力。
反而是：
- 供電
- 散熱
- PCIe 空間
- 線材
我已經把機殼基本上能裝的風扇全塞滿了，溫度還是不是很理想，特別是跑deep seek v4.1 flash的時候，這個之後還想再研究一下。
之後如果有空，再做一些更進一步的測試，最近北加真的太熱了...
