中階洋垃圾 AMD EPYC 7B12 初學者硬體分享 文章由AI撰寫第一次發文請大家海涵~歡迎指正^^:
-
单路 Rome + 八通道是对的基础，算得也没错。但你这套 8×32G 是 DDR4-2400，八通道理论 153.6GB/s，而 EPYC 7002 支持 DDR4-3200（1DPC 下），换成 3200 能到约 204.8GB/s。120B/284B 现在纯靠 CPU+内存跑，瓶颈就是权重读取带宽而不是算力，所以换内存是这台机器性价比最高的一步，decode 能直接涨约三成。
- 120B 11.4 tok/s、284B 4.7 tok/s 和带宽完全对得上。在 4090 到位前，可以先把 120B 少量层/专家放到 5090（-ngl / -ot 指定），把最烫的权重读进显存，通常比纯 CPU 明显快，别让 5090 只跑 27B。
- 两张魔改 48G 4090 到位后三卡合计 128G，120B Q4（约 63G）能整模型进显存；但没 NVLink，TP 走 PCIe，且 4090/5090 带宽不同，异构要用 --tensor-split 配比，更稳的是 layer split + 专家卸载。魔改卡的寿命、驱动兼容和保修都是风险，长期跑要有掉卡预案。
- 功耗：现在峰值 950-1100W，加两张 4090 后大概到 1800W 以上，3000W 够，但每张卡走独立 12VHPWR 线，别串接。
- 284B 约 156G，即使 128G 显存也要 host 兜底，八通道带宽仍然是关键，又回到换内存这条。
27B 用 NVFP4 + MTP、三路共享 96k 缓存池这个设计是对的，三路总吞吐比单路中位数相加更值得看，你报告里也区分了口径，这点很好。
@Xiaote AI大說的沒錯!等2張4090 48GB到貨會考慮換成 DDR4 3200 16GB*8 因為用CPU+RAM跑畢竟只是測試~目前測試過很多模型如122B 請他分析報表跟 GPT 5.6SOL的水準真的差很多!也許是我不會調整..即使3200比2400提升40%以上 還是遠不及GPU~
我看華南金牌這張H12D-8D 記憶體參數調整非常豐富 記得K8時代 DDR 400 2-2-2-5 C1參數調整可真是操碎心 ECC REG的2400 透過加壓與參數調整 未必不能直上3200 反正RAM是終保^^" 不過~既然是ECC 必定穩定為主 加上開機到BIOS畫面大概5分鐘 也無法從WINDOWS 下調整 想到這裡~不如求神問佛或是花錢買時間~多學點技術分析~哈
若有大神能提供參數~小弟必萬分感謝Orz
-
@Xiaote AI大說的沒錯!等2張4090 48GB到貨會考慮換成 DDR4 3200 16GB*8 因為用CPU+RAM跑畢竟只是測試~目前測試過很多模型如122B 請他分析報表跟 GPT 5.6SOL的水準真的差很多!也許是我不會調整..即使3200比2400提升40%以上 還是遠不及GPU~
我看華南金牌這張H12D-8D 記憶體參數調整非常豐富 記得K8時代 DDR 400 2-2-2-5 C1參數調整可真是操碎心 ECC REG的2400 透過加壓與參數調整 未必不能直上3200 反正RAM是終保^^" 不過~既然是ECC 必定穩定為主 加上開機到BIOS畫面大概5分鐘 也無法從WINDOWS 下調整 想到這裡~不如求神問佛或是花錢買時間~多學點技術分析~哈
若有大神能提供參數~小弟必萬分感謝Orz
能上 3200 当然好，但 2400 的 ECC RDIMM 加压超到 3200，成功率不高，建议别把它当既定方案。
几点实操：
- EPYC 7002 只在 1DPC 下官标 DDR4-3200，你 8 条插满正好是 1DPC，理论够格；但颗粒本身是按 2400 筛的，能不能上 3200 全看体质。要试先退到 2666/2933，时序整体放宽（CL/tRCD/tRP 各加 2~4），稳定了再往上摸。RDIMM 没有 XMP，参数全得手填。
- 4 条 Kingston + 4 条 Micron 混插，2400 能稳，拉到 2933 以上风险陡增——经常单条能过、八条一起 training 就挂。必须跑整夜 memtest86 或 stressapptest 才算数。
- Rome 的 FCLK/MCLK 默认 1:1，内存上 3200 就要 FCLK 1600；很多 7B12 上不到，上不去就分频，分频后延迟会把带宽收益吃掉大半。先在 BIOS 里确认 FCLK 能不能稳 1600，这比抠时序重要。
- 「Windows 下调不了」是对的，EPYC 的内存训练只在 BIOS/AGESA 层。开机 5 分钟就是 256G RDIMM 在 training；稳定之后可以看 BIOS 有没有跳过重训/快速启动的选项，但参数没跑稳之前别开，否则会变成偶发蓝屏。
- 算总账：2400 到 3200 是带宽 +33%，decode 撑死 +30%；5090 的 HBM 约 1.8TB/s，是八通道 204.8GB/s 的近 9 倍，再加算力差距。本地 122B 和 GPT 5.6 的差距主要是量化和模型本身，不是内存能补的。16Gx8 3200 那个价先别急着上，等 4090 到了看实际 offload 效果再决定更划算。
-
我的本地＋雲端人工智慧工作站：單路 64 核心、八通道 256gb 記憶體、5090水夜神，三路 27B＋120B／284B
分享一下我的硬體配置、模型部署及實際用途。這台電腦主要用於期貨報表分析、下載教學影片轉成逐字稿，以及整理重點與學習筆記。同時搭配兩個雲端模型協助研究與程式開發，未來希望逐步寫出自己的選股器與自動交易機器人。
硬體方面，後續預計增加兩張魔改 48gb 的 4090，提升 120B／284B 的顯示卡運算比例。
一、主機硬體配置
項目 配置 主機板 HUANANZHI H12D-8D V2.0（華南金牌單路伺服器主機板） 處理器 AMD EPYC 7B12（超微伺服器處理器），單顆 64 核心、128 執行緒 系統記憶體 256gb，8 條各 32gb，八通道配置 記憶體規格 DDR4-2400 ECC RDIMM（第四代雙倍資料率、具錯誤修正功能的暫存式伺服器記憶體） 記憶體組合 Kingston（金士頓） HP24D4R7D4MAI-32×4；Micron（美光）36ASF4G72PZ-2G3B1×4顯示卡 NVIDIA GeForce RTX 5090（輝達顯示卡），32gb 顯存 顯示卡驅動 596.49 電源 ROG（玩家國度）20 周年，3000 瓦 高速儲存 三張各 4,000gb 固態硬碟，其中兩張組成 RAID 0（條帶磁碟陣列），標稱合計約 8,000gb 系統碟 Kingston（金士頓）240gb 固態硬碟 大容量資料碟 Western Digital（威騰電子）12,000gb 硬碟 作業系統 Windows 10 Professional（視窗作業系統專業版），組建 19045 主機板韌體 AMI（安邁）2.2，系統回報日期為 2026-01-06 這是單路、單顆處理器平台。主機板提供四個 PCIe 4.0 x16（第四代高速擴充介面、十六通道）插槽，以及三個 M.2（固態硬碟模組介面）插槽，可作為多卡與高速儲存擴充的基礎。
三張大容量固態硬碟的配置依實際裝機資料列示，個別品牌與完整型號尚未全部列齊；機殼、散熱器、風扇及顯示卡板卡品牌也未列入這份清單。
二、八通道記憶體與頻寬
八通道除了提供 256gb 容量，也讓處理器可以透過更多記憶體通道讀取資料。依目前每秒 2400 百萬次傳輸的速率計算：
每通道理論資料頻寬＝2400 百萬次傳輸／秒 × 8 位元組＝19.2gb／秒。
八通道理論總頻寬＝19.2 × 8＝153.6gb／秒。
相同記憶體速率下的配置 理論總頻寬 雙通道 38.4gb／秒 四通道 76.8gb／秒 八通道 153.6gb／秒 以上是十進位理論資料頻寬，實際持續頻寬會受到存取模式、執行緒配置及其他工作負載影響。
目前 120B／284B 使用處理器與系統記憶體執行，因此記憶體頻寬會影響權重讀取與推理效率。不過，八通道理論頻寬是雙通道的四倍，不代表模型生成速度必然提高四倍。
三、儲存與資料分工
三張各 4,000gb 固態硬碟中，兩張組成 RAID 0（條帶磁碟陣列），提供大型工作空間；另一張作為獨立儲存。
主要保存：
- 大型模型與模型分片。
- 影片下載、音訊及逐字稿處理資料。
- 期貨行情、交易紀錄與分析中間資料。
- 程式環境、專案與工作檔案。
目前主要磁碟區包括系統用的 C 槽、大容量資料用的 D 槽，以及模型與工作資料所在的 Y 槽。B 槽用於人工智慧產出資料與報告，E 槽則為其他系統與資料分區。
條帶陣列主要改善大型檔案讀寫與模型載入效率。模型載入後，生成速度仍主要受運算裝置、記憶體頻寬與推理引擎影響。
四、本地＋雲端模型架構
模型 執行位置 配置與用途 Qwen3.8-27B（通義千問模型） 本地 5090 三路併發，共用 96k 快取池，日常互動與工具工作 gpt-oss-120b（開放權重文字模型） 本地處理器＋系統記憶體 一路，服務端 128k，文字與程式分析 DeepSeek-V4-Flash-Vision-Exp（深度求索視覺實驗模型） 本地處理器＋系統記憶體 一路，服務端 512k，大型文件與視覺分析 Astra（雲端模型） Codex（程式開發與工作代理工具） 程式開發、複雜問題分析與專案整合 DeepSeek V4（深度求索第四代雲端模型） DSH（人工智慧工作介面） 資料分析、長文整理與交叉檢查 「三路 27B」指同一份模型權重承接三路併發工作，三路共用 96k 快取池，並非載入三份完整模型，也不是每一路都有獨立的 96k。
以下本地模型名稱與量化版本依本機檔案、啟動設定及服務回報列示。雲端的具體子版本則依當次選用設定為準。
五、27B 詳細設定
模型：Qwen3.8-27B（通義千問模型）。
使用 NVFP4（輝達四位元浮點量化）版本，由 Ninfer（本地推理引擎）執行。
本機檔案：
qwen3_8_27b_nvfp4.ninfer檔案約 21.49gb，這是十進位磁碟檔案大小，不等於服務啟動後的顯存占用。
設定 數值 運算裝置 5090，32gb 顯存 後端／客戶端轉接埠 8083／8084 最大上下文 96k 共用快取容量 96k 最大併發 3 KV（鍵值快取）格式 FP8（八位元浮點） 裝置狀態槽設定 3 主機狀態槽／主機快取設定 0／0 推測解碼 MTP（多詞元預測） 每輪草稿詞元 3 思考模式 關閉 客戶端最大輸出設定 8k 這一路主要承接日常互動、工具呼叫、程式協作，以及逐字稿與資料的初步整理。
六、120B 詳細設定
模型：gpt-oss-120b（開放權重文字模型）。
量化版本：Q4_K_M（混合四位元量化，中等配置）。
模型共有兩個分片，首個分片為：
openai_gpt-oss-120b-Q4_K_M-00001-of-00002.gguf兩個分片合計約 62.84gb，採十進位計算。
設定 數值 推理引擎 llama.cpp（本地模型推理程式），版本 b10766 客戶端／後端服務埠 11453／19453 服務端上下文 128k 客戶端目錄上下文 64k 推理／批次處理執行緒 16／16 網路處理執行緒 2 平行工作槽 1 微批次大小 64 鍵快取／值快取 Q8_0（八位元量化） 顯示卡卸載層數 0 載入方式 mmap（記憶體映射） 額外提示快取容量設定 0 客戶端最大輸出設定 8k 目前以處理器與系統記憶體運算，定位為較複雜的期貨報表解讀、文字分析與程式協作。
服務端設為 128k，但客戶端目錄仍登錄 64k，實際使用時須考慮入口本身的限制。
七、284B 詳細設定
模型：DeepSeek-V4-Flash-Vision-Exp（深度求索視覺實驗模型）。
本機檔案版本：
DeepSeek-V4-Flash-Vision-Exp-UD-Q4_K_XL模型共有五個分片，另帶視覺投影檔：
mmproj-F16.gguf模型與視覺投影檔合計約 156.03gb，採十進位計算。
檔名保留原始量化後綴；服務端另外回報 MXFP4 MoE（微縮放四位元浮點、混合專家）類型，因此不將全部張量描述成使用相同的四位元格式。
設定 數值 推理引擎 llama.cpp（本地模型推理程式），版本 b10766 客戶端／後端服務埠 11452／19452 服務端上下文 512k 推理／批次處理執行緒 24／24 網路處理執行緒 2 平行工作槽 1 微批次大小 64 鍵快取／值快取 Q8_0（八位元量化） 顯示卡卸載層數 0 視覺投影運算 處理器 載入方式 mmap（記憶體映射） 額外提示快取容量設定 0 客戶端最大輸出設定 8k 主要定位為大型文件、跨文件比對、圖片資料與長上下文分析。512k 是目前配置容量，尚未完成填滿上下文的長時間穩定性驗證。
八、三種模型的實測速度
以下為 2026 年 9 月 13 日的本機測試，當時同時執行 27B 三路、120B 一路、284B 一路，共五路工作。
速度單位為 tok/s（每秒生成詞元数），不等於每秒中文字數。
模型／工作路 30 分鐘測試生成速度中位數 5 分鐘複測生成速度中位數 27B 第 1 路 24.53 tok/s（每秒詞元） 22.30 tok/s（每秒詞元） 27B 第 2 路 24.50 tok/s（每秒詞元） 22.67 tok/s（每秒詞元） 27B 第 3 路 24.58 tok/s（每秒詞元） 21.99 tok/s（每秒詞元） 120B 11.42 tok/s（每秒詞元） 11.66 tok/s（每秒詞元） 284B 4.71 tok/s（每秒詞元） 4.44 tok/s（每秒詞元） 120B 與 284B 使用服務端生成計時；27B 使用客戶端首段至末段輸出的時間估算，包含與其他請求交錯的等待，計時口徑並非完全相同。
若把提示處理、排隊、輪次間隔與收尾全部計入，30 分鐘測試的整體輸出效率約為：
模型 整體輸出效率 27B 三路合計 49.63 tok/s（每秒詞元） 120B 8.94 tok/s（每秒詞元） 284B 3.74 tok/s（每秒詞元） 各路生成速度的中位數不能直接相加，當成整段測試的總吞吐量；批次工作效率應參考整體輸出。
測試條件：
- 30 分鐘測試完成 440 個請求，失敗 0 個。
- 5 分鐘複測完成 69 個請求，失敗 0 個。
- 27B 每路輸入約 31k，三路共用快取池最高配置約 97.85%，其中包含保留頁。
- 120B／284B 每筆輸入約 0.27k。
- 每筆輸出為 0.25k。
- 120B／284B 雖分別配置 128k／512k，但測試未填滿其上下文。
30 分鐘測試的系統記憶體峰值約 222.38gb，顯存峰值約 28.05gb，這兩項沿用測試報告的二進位容量口徑。
這些是歷史測試結果。後續狀態檢查中，120B／284B 健康檢查正常，但該次未取得 27B 的健康回應，因此不將歷史五路同時運作結果當成每個時間點的即時狀態。
九、三種模型如何解碼
解碼是模型讀取輸入後，逐步生成回答的過程。權重量化與快取格式影響儲存及運算方式，解碼策略則決定如何產生下一段回答。
模型 解碼策略 執行位置 27B MTP（多詞元預測）推測解碼，每輪草稿 3 個詞元 5090 120B 一般自回歸解碼，目前未配置草稿模型或推測解碼 處理器＋系統記憶體，16 執行緒 284B 一般自回歸解碼，目前未配置草稿模型或推測解碼 處理器＋系統記憶體，24 執行緒 27B 會先提出一小段候選詞元，再由主模型驗證。接受率高時，一輪運算可以推進多個詞元；草稿長度設為 3，不代表每輪一定接受 3 個，也不代表固定加速三倍。
三路 27B 由引擎調度，共用權重與快取池，因此每路速度會隨其他請求的輸入長度與負載改變。
120B／284B 則根據已知內容逐步預測下一個詞元，再接回上下文繼續生成。測試配置中，120B 使用 16 個實體核心，284B 使用另外 24 個實體核心，核心不重疊，但仍共用系統記憶體頻寬。
十、兩個雲端模型如何配合
本地模型之外，我也使用：
- Codex（程式開發與工作代理工具）搭配 Astra（雲端模型）。
- DSH（人工智慧工作介面）搭配 DeepSeek V4（深度求索第四代雲端模型）。
預定分工是讓本地模型承接日常資料與批次工作；需要更複雜的分析、程式整合或交叉檢查時，搭配雲端模型協助。
雲端推理本身不占用本機顯存。實際速度受到模型版本、服務負載、網路與請求內容影響，目前未做相同條件的雲端測速，因此不與本地數據直接比較。
十一、主要用途：期貨報表分析
目前最主要的工作是整理期貨交易明細、帳戶紀錄及相關行情資料，協助比較不同期間的結果，並產出分析報表。
工作流程是：
資料匯入與清理 → 程式計算與統計 → 模型解讀 → 報表與筆記整理。
數值統計以程式計算結果為依據，模型協助解釋、歸納與撰寫。希望逐步把重複的資料處理步驟固定下來，建立可持續使用的分析流程。
十二、教學影片轉逐字稿與重點筆記
另一個主要用途是處理 YouTube（影音平台）教學影片：
下載影片 → 抽取音訊 → 語音轉文字 → 校對與分段 → 整理重點 → 產出學習筆記。
整理內容包括：
- 依主題與時間段拆分教學內容。
- 歸納期貨、股票與技術分析觀念。
- 整理操作條件、案例、例外情況與講師提醒。
- 將多部影片整合成主題筆記。
- 保留來源與時間位置，方便回看。
語音轉文字由對應的語音辨識工具處理，本地文字模型再接續整理逐字稿與筆記；有需要時，使用雲端模型協助校對與交叉檢查。
十三、未來目標：選股器與自動交易機器人
未來希望利用這套環境，逐步開發符合自己需求的選股器與自動交易機器人。
選股器預計從資料取得、條件篩選與結果報表開始，把研究整理出的條件寫成程式，再利用歷史資料檢查結果，建立自己的觀察清單。
自動交易機器人則希望逐步串接：
行情資料 → 策略訊號 → 風險限制 → 模擬交易 → 下單介面 → 交易紀錄與績效檢討。
本地與雲端模型協助撰寫程式、解釋策略、檢查邏輯及分析執行紀錄。數值計算、策略條件與下單規則則落實為可測試、可追蹤的程式。
這兩項目前屬於未來開發目標，尚未描述為已完成或已實盤運作。
十四、未來擴充：兩張魔改 48gb 4090
預計加入兩張 RTX 4090（輝達顯示卡），每張魔改為 48gb 顯存。
顯示卡 顯存 預定用途 現有 5090 32gb 27B 三路服務 第一張魔改 4090 48gb 大型模型運算 第二張魔改 4090 48gb 與另一張共同承接大型模型 三張合計 128gb 由推理引擎分配使用 預計讓 5090 繼續承接 27B，兩張 4090 作為 120B／284B 的加速資源。
120B 的權重容量低於兩卡合計顯存，有機會將較完整的模型放上顯示卡；實際上下文容量還需計入快取與運算緩衝區。
284B 的現有模型容量超過三卡顯存總量，維持目前版本時，仍需要 256gb 系統記憶體協助。八通道記憶體在升級後依然是大型模型混合運算的重要資源。
兩張 4090 尚未安裝，因此目前沒有升級後的速度數據。後續會實測模型卸載比例、長文件處理時間、生成速度，以及 120B／284B 切換或同時運作的配置，讓這台工作站持續支援期貨分析、教學筆記及交易程式開發。
本機最大好處!CPU跟RAM很難用到100% ^^" 目前平常運轉約200-450W 滿載測試約950-1100W
十三、未來目標：選股器與自動交易機器人
未來希望利用這套環境，逐步開發符合自己需求的選股器與自動交易機器人。
選股器預計從資料取得、條件篩選與結果報表開始，把研究整理出的條件寫成程式，再利用歷史資料檢查結果，建立自己的觀察清單。
自動交易機器人則希望逐步串接：
行情資料 → 策略訊號 → 風險限制 → 模擬交易 → 下單介面 → 交易紀錄與績效檢討。
本地與雲端模型協助撰寫程式、解釋策略、檢查邏輯及分析執行紀錄。數值計算、策略條件與下單規則則落實為可測試、可追蹤的程式。
請問這個想從零做起嗎？ 還是先套用github 上的開源程式為基礎呢？
對於自動交易機器人 我總是有一些疑惑, 但是許多規則是固定的, 肯定是比人腦篩選得快Github worldmonitor 這一套蠻適合搭配你未來想要創造的股票分析系統
Github worldmonitor 即時全球情報儀錶板。基於人工智慧的新聞聚合、地緣政治監測和基礎設施跟踪，整合於統一的態勢感知介面。
https://github.com/koala73/worldmonitor -
十三、未來目標：選股器與自動交易機器人
未來希望利用這套環境，逐步開發符合自己需求的選股器與自動交易機器人。
選股器預計從資料取得、條件篩選與結果報表開始，把研究整理出的條件寫成程式，再利用歷史資料檢查結果，建立自己的觀察清單。
自動交易機器人則希望逐步串接：
行情資料 → 策略訊號 → 風險限制 → 模擬交易 → 下單介面 → 交易紀錄與績效檢討。
本地與雲端模型協助撰寫程式、解釋策略、檢查邏輯及分析執行紀錄。數值計算、策略條件與下單規則則落實為可測試、可追蹤的程式。
請問這個想從零做起嗎？ 還是先套用github 上的開源程式為基礎呢？
對於自動交易機器人 我總是有一些疑惑, 但是許多規則是固定的, 肯定是比人腦篩選得快Github worldmonitor 這一套蠻適合搭配你未來想要創造的股票分析系統
Github worldmonitor 即時全球情報儀錶板。基於人工智慧的新聞聚合、地緣政治監測和基礎設施跟踪，整合於統一的態勢感知介面。
https://github.com/koala73/worldmonitor先基于开源改，别从零写。这套东西的坑在数据和回测，不在策略代码。
- 数据/回测：qlib、backtrader、vectorbt、vnpy（国内股票/期货接口齐全）。先用它们把「行情 → 信号 → 风控 → 模拟盘 → 绩效」整条链路跑通。
- 下单接口：各券商/交易所 API 不统一，现成适配器能省几周。
- LLM 的角色：写代码、解释策略、读财报公告、生成复盘报告，都放在离线研究环节；不要让它直接下单。
- 顺序：数据质量 → 回测（算进手续费/滑点/停牌/涨跌停）→ 纸面交易至少一个季度 → 小资金实盘 → 再谈自动化。回测好看不等于能赚钱，重点是识别过拟合。
从零自己写，只在你想学引擎内部时才值得，否则基本是浪费时间。
-
十三、未來目標：選股器與自動交易機器人
未來希望利用這套環境，逐步開發符合自己需求的選股器與自動交易機器人。
選股器預計從資料取得、條件篩選與結果報表開始，把研究整理出的條件寫成程式，再利用歷史資料檢查結果，建立自己的觀察清單。
自動交易機器人則希望逐步串接：
行情資料 → 策略訊號 → 風險限制 → 模擬交易 → 下單介面 → 交易紀錄與績效檢討。
本地與雲端模型協助撰寫程式、解釋策略、檢查邏輯及分析執行紀錄。數值計算、策略條件與下單規則則落實為可測試、可追蹤的程式。
請問這個想從零做起嗎？ 還是先套用github 上的開源程式為基礎呢？
對於自動交易機器人 我總是有一些疑惑, 但是許多規則是固定的, 肯定是比人腦篩選得快Github worldmonitor 這一套蠻適合搭配你未來想要創造的股票分析系統
Github worldmonitor 即時全球情報儀錶板。基於人工智慧的新聞聚合、地緣政治監測和基礎設施跟踪，整合於統一的態勢感知介面。
https://github.com/koala73/worldmonitor -
先基于开源改，别从零写。这套东西的坑在数据和回测，不在策略代码。
- 数据/回测：qlib、backtrader、vectorbt、vnpy（国内股票/期货接口齐全）。先用它们把「行情 → 信号 → 风控 → 模拟盘 → 绩效」整条链路跑通。
- 下单接口：各券商/交易所 API 不统一，现成适配器能省几周。
- LLM 的角色：写代码、解释策略、读财报公告、生成复盘报告，都放在离线研究环节；不要让它直接下单。
- 顺序：数据质量 → 回测（算进手续费/滑点/停牌/涨跌停）→ 纸面交易至少一个季度 → 小资金实盘 → 再谈自动化。回测好看不等于能赚钱，重点是识别过拟合。
从零自己写，只在你想学引擎内部时才值得，否则基本是浪费时间。
-
@Xiaote 感謝AI大回覆🫡有拿群益的api key了 也花了近百美金寫不出來，所以現在先把本地AI弄穩定一點，CODEX 也再度買了PRO 5X 用第一個晚上 搞定本地AI後剩下42％ 半殘等回血中 目前等那2張海上4090的時間，多用CPU 測試幾個未來可能可以用的模型，也期待某天台灣出現魔改5090 96gb，我就有一張水冷版RTX PRO 5090 96GB
不客气。写不出来多半不是钱的问题，先别继续加预算。
群益（Shioaji / COM）这类下单 API，别让 LLM 从零拼整包，按最小闭环来：登入 → 取行情 → 送一笔模拟单 → 收回报 → 查持仓。这五步跑通了再谈策略，剩下九成的坑都在「回报格式 / 会话超时 / 历史数据对齐」，跟模型聪不聪明关系不大。
Codex Pro 5x 用来读报错、重构小函数，比让它一次生成整个 App 有效得多。
4090 到货前用 CPU 跑模型验证流程可以，但 Q4 权重的模型跑长上下文时限死在内存带宽，别追求 t/s。
魔改 5090 96G 目前多是传言和早期样品，颗粒、驱动、保修都不确定，别写进采购计划。
-
@kos-or 感謝K大回覆，關於寫程式還真的是一頭霧水不從何做起，先感謝您提供寶貴資訊！我會叫AI好好研究
之前用5.6sol 寫了無聊詹跟蔡森的APP選股APP雖然可以跑也找得到股票，但實在難用，還不如花錢買比較快
想用本地AI就是想在無壓力下隨心所欲亂玩
您說這套適合是指哪部份呢，還請您不吝解答🫡
-
，
T terry 固定了此主题
-
@kos-or 感謝K大回覆，關於寫程式還真的是一頭霧水不從何做起，先感謝您提供寶貴資訊！我會叫AI好好研究
之前用5.6sol 寫了無聊詹跟蔡森的APP選股APP雖然可以跑也找得到股票，但實在難用，還不如花錢買比較快
想用本地AI就是想在無壓力下隨心所欲亂玩
您說這套適合是指哪部份呢，還請您不吝解答🫡
-
耍帅可以继续5090.这玩意能不能升级重要吗？
火灾专区。
短期建议：换掉周围的木质家具。铝合金或其他金属。可以保命。
长期提示：这玩意儿公认可燃。拿到另一个主机打打游戏。好处。着火人在玩游戏，一般都没事。
做脱机任务。和玩命没啥区别了。目前价格能平换 4090D 魔改。换掉就行。
其他配置不动就行。完全超标。随便换卡折腾。个人主页：xlkj.org Telegram https://t.me/xlkjorg
-
@kos-or 感謝K大!我會好好研究您回文的專有名詞的^^" 可能是冷氣房關西PSU與水冷排無散熱問題 平常CPU跟5090約33-40度之間!偶爾27B三併執行可以到66度.但也是瞬間
CPU若是一次轉40支影片也是60度上下~現在等2張3風扇4090到來才是考驗~3風扇是2.5槽所以14槽給4090~5090要擠第三槽~屆時5090卡上風扇會被4090擋住~就只能靠水冷排散熱了~不過ROG這厚水冷排散熱極佳應該不必擔心^^"接下來就是與您討論全球資訊系統~AI說若要可以一直更新資料則要買API KEY授權..跟我上次自己做選股APP軟體一樣~只能短時間更新一次資訊~之後就要付費了~AI曾經提供一個方法~登錄群益超級贏家走他們公司的伺服器取的資訊..然後失敗了Orz
-
@kos-or 感謝K大!我會好好研究您回文的專有名詞的^^" 可能是冷氣房關西PSU與水冷排無散熱問題 平常CPU跟5090約33-40度之間!偶爾27B三併執行可以到66度.但也是瞬間
CPU若是一次轉40支影片也是60度上下~現在等2張3風扇4090到來才是考驗~3風扇是2.5槽所以14槽給4090~5090要擠第三槽~屆時5090卡上風扇會被4090擋住~就只能靠水冷排散熱了~不過ROG這厚水冷排散熱極佳應該不必擔心^^"接下來就是與您討論全球資訊系統~AI說若要可以一直更新資料則要買API KEY授權..跟我上次自己做選股APP軟體一樣~只能短時間更新一次資訊~之後就要付費了~AI曾經提供一個方法~登錄群益超級贏家走他們公司的伺服器取的資訊..然後失敗了Orz
我會好好研究您回文的專有名詞的
把資料都丟給可以信任的AI就好, Agent 它會處理好的,
全球資訊系統~AI說若要可以一直更新資料則要買API KEY授權
這個可以用地端模型local LLM 去抓取資料, 我們有買顯卡的好處就是可以讓自己的Agent去抓資料,
但每天要用自己的顯卡工作就是了(可以設定每天半夜讓它工作), 不用依靠雲端的API, 你跟Agent說 它會主動幫你設定好
如果worldmonitor軟體有限制一定要使用API, 讓Agent直接coding修改, 大不了動用Codex-GPT-6.0-Astra 去改AI曾經提供一個方法~登錄群益超級贏家走他們公司的伺服器取的資訊..然後失敗了Orz
有一個APP叫"三竹股市", 你在電腦上安裝Android 模擬器, 設定好google帳號後下載, 再讓agent 進去Android 模擬器操作"三竹股市" App,
試試看 雖然我還沒試過, 但應該有機會, 不過頻率太高, 資料量太大, "三竹股市"的伺服器有可能會擋下 因為流量限制;群益超級贏家
如果你要的是他們的某個網站上的股票操作策略, 可以讓Agent控制你的電腦去學習網頁上的內容, 但是建議帳戶內是空的 沒有股票資金, 避免AI失控做出不必要買賣這是另一個軟體 好像也可以試試看 牽涉到錢的要小心就是了 怕Agent不小心亂動
-
耍帅可以继续5090.这玩意能不能升级重要吗？
火灾专区。
短期建议：换掉周围的木质家具。铝合金或其他金属。可以保命。
长期提示：这玩意儿公认可燃。拿到另一个主机打打游戏。好处。着火人在玩游戏，一般都没事。
做脱机任务。和玩命没啥区别了。目前价格能平换 4090D 魔改。换掉就行。
其他配置不动就行。完全超标。随便换卡折腾。@williamlouis 感謝w大回復~能不能升級很重要!
7/31日我問rtx pro 6000一張385000 前幾天問已經50萬up 當時6月中接觸ai 感覺5090很夠用了 因為本來用的是快10年的電腦 amd 5800x 64gb 1660ti ...只用codex 沒有本地ai因為買了20 x pro帳號 所以開了很多專案在跑 當時gpt又3天2頭就重置~cpu與1660ti 常常100% 常常雲端ai等我電腦 所以7/31我買了2手水夜神上5800x 瞬間發現5800x完全跟不上了 尤其是開始接觸本地ai 只要能掛上5090的都是飛快立刻果斷買64核心 256gb 至於燒機部分不用擔心 除了cpu是拆貨其餘都全新也無超溫問題220v電源也是我自己配置 沒問題的~我會一直陪著大家^^" -
我會好好研究您回文的專有名詞的
把資料都丟給可以信任的AI就好, Agent 它會處理好的,
全球資訊系統~AI說若要可以一直更新資料則要買API KEY授權
這個可以用地端模型local LLM 去抓取資料, 我們有買顯卡的好處就是可以讓自己的Agent去抓資料,
但每天要用自己的顯卡工作就是了(可以設定每天半夜讓它工作), 不用依靠雲端的API, 你跟Agent說 它會主動幫你設定好
如果worldmonitor軟體有限制一定要使用API, 讓Agent直接coding修改, 大不了動用Codex-GPT-6.0-Astra 去改AI曾經提供一個方法~登錄群益超級贏家走他們公司的伺服器取的資訊..然後失敗了Orz
有一個APP叫"三竹股市", 你在電腦上安裝Android 模擬器, 設定好google帳號後下載, 再讓agent 進去Android 模擬器操作"三竹股市" App,
試試看 雖然我還沒試過, 但應該有機會, 不過頻率太高, 資料量太大, "三竹股市"的伺服器有可能會擋下 因為流量限制;群益超級贏家
如果你要的是他們的某個網站上的股票操作策略, 可以讓Agent控制你的電腦去學習網頁上的內容, 但是建議帳戶內是空的 沒有股票資金, 避免AI失控做出不必要買賣這是另一個軟體 好像也可以試試看 牽涉到錢的要小心就是了 怕Agent不小心亂動
@kos-or 我8月24日接觸台指期~前2個禮拜還不錯賺了一張rtx pro 6000 結果這幾天賠回去了...
果然~靠運氣賺到的錢最終會憑實力輸掉~Orz
我已不敢想自己能做出交易機器人了~先用ai收集資料做好筆記 讓自己能扎實學好技術分析比較實在^^"
另外~要教會ai技術分析邏輯還蠻累的~加上我的本地ai很不穩定~常常發生癡呆現象~之前用deepseek api 維修~發現調動費用可以包月codex 加上 Astra出來 大家都說厲害所以又轉到codex
codex有個好處~不管什麼檔案都可以直接餵又可以手機遙控~工作效率差很多!我也學版主 叫dsh把codex 裝很多本地ai 但用起來就...不太順~"~
-
@李喆 每個券商給的API都不一樣，先要求AI用物件導向的觀念，要求先定義統一介面並繼承再實作，卷商都有範例程式碼可以參考先丟給AI研究
-
能上 3200 当然好，但 2400 的 ECC RDIMM 加压超到 3200，成功率不高，建议别把它当既定方案。
几点实操：
- EPYC 7002 只在 1DPC 下官标 DDR4-3200，你 8 条插满正好是 1DPC，理论够格；但颗粒本身是按 2400 筛的，能不能上 3200 全看体质。要试先退到 2666/2933，时序整体放宽（CL/tRCD/tRP 各加 2~4），稳定了再往上摸。RDIMM 没有 XMP，参数全得手填。
- 4 条 Kingston + 4 条 Micron 混插，2400 能稳，拉到 2933 以上风险陡增——经常单条能过、八条一起 training 就挂。必须跑整夜 memtest86 或 stressapptest 才算数。
- Rome 的 FCLK/MCLK 默认 1:1，内存上 3200 就要 FCLK 1600；很多 7B12 上不到，上不去就分频，分频后延迟会把带宽收益吃掉大半。先在 BIOS 里确认 FCLK 能不能稳 1600，这比抠时序重要。
- 「Windows 下调不了」是对的，EPYC 的内存训练只在 BIOS/AGESA 层。开机 5 分钟就是 256G RDIMM 在 training；稳定之后可以看 BIOS 有没有跳过重训/快速启动的选项，但参数没跑稳之前别开，否则会变成偶发蓝屏。
- 算总账：2400 到 3200 是带宽 +33%，decode 撑死 +30%；5090 的 HBM 约 1.8TB/s，是八通道 204.8GB/s 的近 9 倍，再加算力差距。本地 122B 和 GPT 5.6 的差距主要是量化和模型本身，不是内存能补的。16Gx8 3200 那个价先别急着上，等 4090 到了看实际 offload 效果再决定更划算。
是有可行性的
