" Multi-GPU AI setup 你從未聽過的最佳本地AI主機板CPU組合"
https://www.youtube.com/watch?v=WRi0jApo9NM&t=10s
相關產品介紹
AMD Threadripper Pro 3945WX CPU https://geni.us/AMD-TR-3945WX
Gigabyte MC62-G40 Motherboard https://geni.us/MC62-G40_MOBO

GPUs
3090 24GB https://geni.us/GPU3090
5060Ti 16GB https://geni.us/5060Ti-16GB
4090 24GB https://geni.us/4090_24GB_GPU

Digital Spaceport他沒有提供實例圖 但大概長這樣 
顯卡是要透過PCIe Riser Card 挑高置放的

Local LLM 本地語言大模型 硬體實戰開始

我的顯卡礦機架今天來了 終於～～～
沒想到我會繼續碰礦機 畢竟 那是2017年 一段過山車的劇情
狂飆至 $19000 回墜到 $6000, $5000...
讓人迫不及防, 賣掉了所有的GPUs 跟Bitcoin/ETH say goodbye.

2026 呵呵～翻找了電子零件堆 找到一張好的 RX570-O4G, 有4G VRAM
裝了一個2G的LLM Gemma4-E2B 能跑 很快 不錯嘛
網友 : Qwen3.6-27B 很聰明
這引起了我的好奇心
火速弄了一張RTX 5070 Ti 16GB, 跑了模型之後 結果是有點失望的
而且Hermes 需要64K的ctx_szie, 16GB 一直被爆 原來是個坑呀～～～

不得不加了第二張 ～ 但
主機沒空間呀 想到以前挖礦的經驗
那....就當挖礦好了 搞個礦機風

這次買了加長型礦機架

這品質不錯 沒有會刮到手的地方

組裝容易 GPU的新家 12卡(4cm x 12) 空間大 可以放兩個電源 左右各一

2017年的6~8卡(4cm x 6~8) 小礦機架還留著

以下是 傳統 12GPU (40mm x 12) 礦機架產品示意圖

產品尺寸：長725X高240X深268MM
主板尺寸：最大305X245MM
顯卡規格：顯卡長度不受限制 支持12卡,顯間距61MM;
散  熱  器：CPU散熱器高度95MM
支持電源：支持2個ATX電源、支持加長電源
存儲設備：SSDX2+HDDX2
風扇規格：12CM風扇X6
產品材料：支架1.5MM，底板0.8MM 表面噴手感砂紋黑
標配螺絲：六角柱 9PCS、 主板螺絲 11PCS 、六角螺絲44PCS、硬盤螺絲4顆      
產品包裝：單個包裝 745*285*45MM

這是雙電源 還蠻棒的 可以不用擔心電力瓦數不夠 
圖示這都是以前的挖礦顯卡寬度 比較小,  
一般都是 2 slot = 4cm 的寬度 我們2026年現在的新顯卡都比這寬很多 , 
卡跟卡之間 要保持至少2~4cm 的距離 對散熱有幫助

GPU0-坑一 : ASUS TUF-RTX 5070 TI 16GB PCIe @ 32GB/s

GPU1-坑二 : ASUS TUF-RTX 5070 TI 16GB PCIe @ 1 GB/s 
(嚴重拖累雙卡Pipeline Parallelism 的表現)

對PP還不太了解 應該就是類似這個圖示

主板到了 CPU還沒到 ～ 後續更新

主板採用全新 Gigatebyte MC62-G40  從深圳大老遠買來的

CPU 到貨了！ 全新 AMD Ryzen Threadripper PRO 3945WX (12C/24T) 從英國大老遠買來的
這一顆 是YT網紅推薦的 雖然價格低 但是我寧願買 PRO 3955WX (16C/32T) 
有時候多買一個等級 多點系統效能緩衝是有必要的