抡锤者

@imbiplaza-ASUS 看模型 120b 27b fp16都有成功TP

新進員工進來後一直沒空~

與華南金牌H12D-8D 7B12 256GB DDR4-2400 8通道 3090 24GB X2 比較一下~

最近再把一些模型測試報告貼上來

也試著開一個池 2台主機跑共同討論同一檔股票 24小時2台討論修改20多次好像沒比較好~"~

有試過
1.QWEN 27B FP16 雙 4090 48GB TP 速度僅 20TOK/S 左右
2.STRATA 128 Q4(Q4很多版本) 雙 4090 分層(好像無法TP) 約145 TOK/S 單4090 125 TOK/S

華南金牌H12D-8D 7B12 256GB DDR4-2400 8通道 3090 24GB X2
STRATA 128 Q4(Q4很多版本) 雙 3090 24GB 分層 65-71 TOK/S

臨時PO再慢慢修正^^"

台灣新竹市的尚豐前天才到貨100張~價格16萬台幣一張~一年保固~他有25年顯卡維修經歷~其他高階顯卡壞掉也是找他維修~類似維修顯卡老張~但沒拍視頻~另外他也賣多款洋垃圾~

我無法順利安裝40902+50901好像是華南主機板的關係

尚豐版本的3風扇4090溫度壓制很好!卡好大張!對我已經習慣沒有聲音的水夜神來說太吵了!只好把他功率限制250W以下

目前測試4090 TP 284B 中還外掛一個7B的VL~

DSH還在測試穩定性~不順利中~"~

@starryskyknight 感謝S大回覆^^"

的確 這兩天用5090 跑27B(NINFER)做4併發另一張卡3090 or 現在的4090做文字辨識好像也夠用了 我僅用於找金融資訊與分析而已~27B搭配HERMES 若是不出問題的話也相當夠用了~我甚至可以把多的卡賣掉留5090+4090 48GB各一即可~不知道為什麼我華南的板子無法穩定裝雙4090+5090*1 太晚了~先休息~明天再問廠商看看~大家晚安^^"

@Ben-Lee 對啊!我在桃園~剛剛快睡著了!今天用了HERMES 視窗版比DSH好用多了哈哈哈!準備睡覺9點上班^^"假日睡太飽的關係Orz

@Ben-Lee 我剛剛測是在這網頁直接撥蔡琴是可以聽的~不知道是不是地區關係^^"

@Ben-Lee 啊!都不能聽嗎^^"我們台灣這邊從YT分享到FB大部份可以聽~蔡琴幾乎沒有封鎖
^^"

您看看用好的真空管前級推聲海HD 800耳機完全不輸給其他耳擴系統

Youtube Video

@Ben-Lee 感謝B大^^"

大部份用華為跟OPPO錄音

錄音鐵則輸出+輸入=成果(所以不會無中生有 當然有AI除外)

不知道AI能復刻什麼程度?

題外話:

2年多的手機錄音只在YT有標題~電腦內的檔案皆是日期而已

所以裝上AI後第一個任務就是叫AI去我的YT聽歌比對跟硬碟資料 然後把硬碟手機錄影檔與YT標題對標修改~不過很快就沒額度了~所以增加了建立地端的決心^^"

讓小弟在炫耀一下^^"

Youtube Video

@johnnybegood 说:

X570 TUF gaming

好像更新BIOS後變成自動偵測~原本只能手動切換X8X8

我也是這張主機板~(印象中更新BIOS後變成自動偵測.我電腦要不是想學AI..已經很久沒開機了)

許傑一樣是我 李喆，沒注意到，另一支手機登錄了不同谷歌帳戶

一樣藍雨衣 聽聽看瓊貝斯版本

Youtube Video

@kos-or

台積電的外包商有可能~

台積電的工程師忙著賣肝!應該只能吃飯睡覺尿尿而已~

等4090 48GB兩張到貨測試完~或許雲端大模型才是我最佳解方~"~

先來去買一包乖乖鎮壓鎮壓@@"

有大神測試EVOX嗎^^"

@terry 您說這張嗎? 該卡為EVGA 3090旗艦版本

@Capri-Swicord 是丫^^"

其實EPYC說一點不累!

它說 :So Easy 反正全核心跑跟16-32核心跑起來一樣慢~"~

我剛接觸AI 不知道卡怎麼買~

所以先買了5090水夜神~接著AMD 5800X+64GB RAM很久沒升級~

我就買了7B12+H12D-8D+256GB DDR2400 ECC~

順便測試一下120-284B的模型全部用CPU+RAM跑看看~可謂舉步維艱~"~

偶然發現5090跑27B(N)速度飛快!以為水夜神是真神!!於是又請AI改腳本~每個模型都獨佔5090跑看看!

速度飛耀了!從原本1-2 TOK/S變成3-4 TOK/S 284B從7變成15 TOK /S

後來訂了4090 gb 兩張打算回來取代cpu (gpu以外皆是螻蟻)

前2天聽到3090 nvlink cp值很高 有3樓那麼高!!!就買了2張...但...nvlink~卡貴毛多~"~

如自然攝影大師雷雨說的:人生的意義在於折騰!!!

曾經問ai直接買 50萬的rtx pro 6000 96gb 跟買31萬的4090 48gb *2哪個划算?!

ai說絕對是4090 48gb*2

或許7812+4090*+3090*2 水夜神給5800x才是我的最佳組合

以上是結丹的過程~~"

題外話~
以下是luna 高推理弄的

[模型：GPT-5（第五代模型）] [時間：2026-09-19 03:14:20（台北時間）] 已完成重寫並儲存，目前配置已通過檢查，沒有重啟任何模型。

• 目前配置啟動與檢查腳本（DSH，本地模型服務）
• 目前配置啟動批次檔（BAT，批次啟動檔）
  固定內容：
• 284B：3090、32核心、512k、3層專家層
• 27B-N：5090、4路共用128k
• 27B-VL：3090、2層、32k
• 120B：純CPU、16核心、128k
• CODEX（程式介面）轉接：8090
  檢查結果：8083、8090、11438、11452、11453全部在線。
  批次檔只會啟動缺少的服務，不會停止或強制重啟正在使用的模型。

個人自己選擇低預算搭配~也蠻有CP值

AMD EPYC 7R32

DDR4 3200 ECC REG 16GB*8

華南的MB:H12D-8D PCI-E

4組 PCI-E 4.0 16X<<<讓選卡很彈性

題外話~前天買到2張 3090 其中一張搭配5090使用 讓3.8 27B-INT(NINFER)4併發共用128KV

3090 24GB 放入27B-VL視覺模型與輔助27B(N)/120B/284B 等3個模型

GPT的120B則純用CPU+RAM跑

等2張4090 48GB到貨再來試試看共用成96GB好不好用^^"

3090 全新庫存卡的fb賣方截圖，需要的大大請自行聯絡，小弟不經手不賺價差純分享

其實改水冷不是不行~只是太麻煩且不知道加上2個水冷頭加POWER+NVLINK+機殼的成本應該超過10萬了~是否值得要算一下了!

@stxpnet 感謝S大回覆~小弟功力尚淺不理解您說的~請問有NVLINK實際會提升多少TOK/S呢?

@applejuice 剛剛問剩下5張 台幣35500-37000 比我買的2張EVGA2手還便宜~FB搜尋的到 市礦商 說是因為維護合約關係留下 土城可以面交 MSI三風扇待會把手機截圖貼上 小弟純分享不經手不賺價差!各位大神請自行連絡^^"

@Don-zhu 感謝D大回覆~等POWER到了再來測試雙卡溫度~之後再決定是否買NVLINK^^"