@Ben-Lee 對啊!我在桃園~剛剛快睡著了!今天用了HERMES 視窗版比DSH好用多了哈哈哈!準備睡覺9點上班^^"假日睡太飽的關係Orz
-
這裡有玩音響的樂友嗎😅 -
這裡有玩音響的樂友嗎😅 -
這裡有玩音響的樂友嗎😅 -
這裡有玩音響的樂友嗎😅@Ben-Lee 感謝B大^^"
大部份用華為跟OPPO錄音
錄音鐵則輸出+輸入=成果(所以不會無中生有 當然有AI除外)
不知道AI能復刻什麼程度?
題外話:
2年多的手機錄音只在YT有標題~電腦內的檔案皆是日期而已
所以裝上AI後第一個任務就是叫AI去我的YT聽歌比對跟硬碟資料 然後把硬碟手機錄影檔與YT標題對標修改~不過很快就沒額度了~所以增加了建立地端的決心^^"
讓小弟在炫耀一下^^"
-
感谢论坛的大家 我自己的本地大模型部署成功（X99-T8D+7900XTX）X570 TUF gaming
好像更新BIOS後變成自動偵測~原本只能手動切換X8X8
我也是這張主機板~(印象中更新BIOS後變成自動偵測.我電腦要不是想學AI..已經很久沒開機了)
-
這裡有玩音響的樂友嗎😅 -
小白篇 : 雙卡AI 算力系統 基本配置 -
agent操作浏览器 还得是codex啊 -
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
小白篇 : 雙卡AI 算力系統 基本配置@Capri-Swicord 是丫^^"
其實EPYC說一點不累!
它說 :So Easy 反正全核心跑跟16-32核心跑起來一樣慢~"~
我剛接觸AI 不知道卡怎麼買~
所以先買了5090水夜神~接著AMD 5800X+64GB RAM很久沒升級~
我就買了7B12+H12D-8D+256GB DDR2400 ECC~
順便測試一下120-284B的模型全部用CPU+RAM跑看看~可謂舉步維艱~"~
偶然發現5090跑27B(N)速度飛快!以為水夜神是真神!!於是又請AI改腳本~每個模型都獨佔5090跑看看!
速度飛耀了!從原本1-2 TOK/S變成3-4 TOK/S 284B從7變成15 TOK /S
後來訂了4090 gb 兩張打算回來取代cpu (gpu以外皆是螻蟻)
前2天聽到3090 nvlink cp值很高 有3樓那麼高!!!就買了2張...但...nvlink~卡貴毛多~"~
如自然攝影大師雷雨說的:人生的意義在於折騰!!!
曾經問ai直接買 50萬的rtx pro 6000 96gb 跟買31萬的4090 48gb *2哪個划算?!
ai說絕對是4090 48gb*2
或許7812+4090*+3090*2 水夜神給5800x才是我的最佳組合
以上是結丹的過程~~"
題外話~
以下是luna 高推理弄的[模型：GPT-5（第五代模型）] [時間：2026-09-19 03:14:20（台北時間）] 已完成重寫並儲存，目前配置已通過檢查，沒有重啟任何模型。
- 目前配置啟動與檢查腳本（DSH，本地模型服務）
- 目前配置啟動批次檔（BAT，批次啟動檔）
固定內容： - 284B：3090、32核心、512k、3層專家層
- 27B-N：5090、4路共用128k
- 27B-VL：3090、2層、32k
- 120B：純CPU、16核心、128k
- CODEX（程式介面）轉接：8090
檢查結果：8083、8090、11438、11452、11453全部在線。
批次檔只會啟動缺少的服務，不會停止或強制重啟正在使用的模型。
-
小白篇 : 雙卡AI 算力系統 基本配置個人自己選擇低預算搭配~也蠻有CP值
AMD EPYC 7R32
DDR4 3200 ECC REG 16GB*8
華南的MB:H12D-8D PCI-E
4組 PCI-E 4.0 16X<<<讓選卡很彈性
題外話~前天買到2張 3090 其中一張搭配5090使用 讓3.8 27B-INT(NINFER)4併發共用128KV
3090 24GB 放入27B-VL視覺模型與輔助27B(N)/120B/284B 等3個模型
GPT的120B則純用CPU+RAM跑
等2張4090 48GB到貨再來試試看共用成96GB好不好用^^"
-
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上?@applejuice 剛剛問剩下5張 台幣35500-37000 比我買的2張EVGA2手還便宜~FB搜尋的到 市礦商 說是因為維護合約關係留下 土城可以面交 MSI三風扇待會把手機截圖貼上 小弟純分享不經手不賺價差!各位大神請自行連絡^^"
-
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
請問有大神使用EVOX嗎?其蜂巢功能是否是協調多模型同時處裡一個任務呢?請問有大神使用EVOX嗎?其蜂巢功能是否是協調多模型同時處裡一個任務呢?
贈送多家免費額度但不多~
使用CODEX 將4個模型寫入選單~但蠻不順的!
目前DSH還是無法直接丟照片跟檔案~所以CODEX還是主力~EVOX也可以直接丟檔案所以想嘗試能否跑地端~但跑一跑就停住了~得靠LUNA一直維修~"~沒法用~
另一個好消息 剛剛叫CODEX 自己裝地端 竟然成功了^^"
來去跑任務看看~
我:你可以安裝本地模型到選單中嗎?
上午2:43
適用於 54s
[模型：GPT-5（第五代模型）] [時間：2026-09-18 02:44:14（台北時間）]
可以，而且目前已經安裝到EVOX（模型管理介面）的本地模型選單：- 284B（284B大型模型）
- 120B（120B大型模型）
- 27B（27B文字模型）
- 27B-VL（27B視覺語言模型）
四個模型服務都已連線，選單目錄也已確認存在。
上午2:44
是安裝到CODEX
上午2:44
適用於 26m 9s
[模型：GPT-5（第五代模型）] [時間：2026-09-18 03:10:25（台北時間）] 已安裝到Codex（程式工作介面），不是EVOX（另一個模型管理介面）。
已加入四個本地模型：- 27B（本地文字模型）
- 27B-VL（本地視覺模型）
- 284B（本地大型模型）
- 120B（本地大型模型）
目前DSH（本地模型管理器）的四個模型與8090統一代理全部在線，工作槽為0。27B與27B-VL已完成實際回覆測試；284B與120B的設定解析及服務健康檢查通過。
設定檔： - Codex主設定
- Codex模型目錄
請重新啟動Codex桌面程式，模型選單就會載入新增項目。Codex官方文件說明自訂模型提供者與新版獨立工作設定檔的作法：Codex官方進階設定。
上午3:10
-
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上? -
想问 成功用上 nvlink 3090 的你们. 是用在什么平台上?@Xiaote 真的太感謝這篇回覆了!
現在比較頭痛的是3-SLOT的NVLINK 台灣不好買，代購一個NT:一萬出頭!不知道版上大大有什麼比較划算的管道嗎^^"
電源部份已經訂購威剛CYBERCORE II 1300W 10組6+2PIN PCI-E電源
一張卡要吃3個...
另外~朋友手上有幾片全新未拆MSI 3090 因為已經買了EVGA 就沒有細問 有興趣的板友在討論(若是這條有違反版規請告知!我立刻刪除~)
