技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行
-
@terry 我覺得可以說說內存的事情, 看起來DDR4還是很好的選擇, 價錢比較合理一些, 插滿也沒有點不亮的問題, 頻率對於特大型的工作流也還算順利, 而且不會像DDR5插滿會有各種難度的事情, 一下點不開機, 開機後又看到降頻率, 也不會像DDR3跑到某些節點多拖時間的問題。
-
@b9704037 你花更多的錢買了貴的硬件，
才有機會去折騰更複雜的環境應該說在商用的情境下，專業版的硬體設備有沒有經過優化的軟體架構會差滿多，如果你使用Win的話會建議你安裝 LTS版或者是IOT嵌入式的版本，至少不太會遇到更新爆開的問題，不過驅動上預載會變少需要手動安裝， -
@b9704037 其实你认真排查下，你的脚本可能有问题，如果正常跑，你96G显存，除了载入模型，你不该用到内存的。即便是VAE用到，它也不吃内存带宽和频率，可能你有其它流程降级到了CPU。
-
@b9704037 会，但是波动很小，只有VAE阶段会大量调用内存，其它时候内存占用率一直是比较低的状态，4090 48G基本全流程都在显存里。xtx就会频繁切换，因为要卸载模型。Pro6000你设置GPU-Only参数看看，问下AI。
-
@terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了
-
@terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了
-
@williamlouis
我一字一字把經歷打出來給你說雲, 我不懂什麼太深奧的東西, 我就一個凡人, 踩過的坑就這麼多, 避免有人踩坑, 分享一下我圖啥了, 發帖能賺錢? 我不知道你權限多高, 你覺得我這帖沒有用, 能刪了你就刪了吧, 反正我可能就發這一次貼文而已。證明我不是嘴巴說說, 我把我買過的東西都貼出來
-
@kos-or 是的, 是蝦皮購買二手的母豬礦電, 只要2100, 但品質很好, 重量很沉
我們從2月開始接觸與摸索, 差不多確實快要半年了。@韦春花 好羨慕3400元真的好平價, 真的太值得了 現在一條要價6500R
@九龙杨生 我們使用ComfyUI大概會跑50-60GB, 單張剩下40GB, 我們想說盡量地去用乾淨, 所以選擇了BF16沒有選擇FP8, 主要是600W的硬體架構與散熱, 我們還要重新買power和換機殼, 想著他太吃電了, 就沒有選擇600W
@566656661 我們有試過A10B和35B A3B, 但是不知道為什麼算力都沒有辦法一下子開頭跑滿全力運算, 總是卡卡的, 後來還是用了27B稠密, 我們的感覺是A10B A3B像省油日本車, 27B稠密像是一台油門全開的跑車。
-
@kos-or 是的, 是蝦皮購買二手的母豬礦電, 只要2100, 但品質很好, 重量很沉
我們從2月開始接觸與摸索, 差不多確實快要半年了。@韦春花 好羨慕3400元真的好平價, 真的太值得了 現在一條要價6500R
@九龙杨生 我們使用ComfyUI大概會跑50-60GB, 單張剩下40GB, 我們想說盡量地去用乾淨, 所以選擇了BF16沒有選擇FP8, 主要是600W的硬體架構與散熱, 我們還要重新買power和換機殼, 想著他太吃電了, 就沒有選擇600W
@566656661 我們有試過A10B和35B A3B, 但是不知道為什麼算力都沒有辦法一下子開頭跑滿全力運算, 總是卡卡的, 後來還是用了27B稠密, 我們的感覺是A10B A3B像省油日本車, 27B稠密像是一台油門全開的跑車。
，我們是採用類 runpod 的模式讓用戶調用不同的 ComfyUI 工作流，才不會污染環境跟打架，再來是D I T工作流也要處理好，不然光是IO就會卡住
