技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行
-
@b9704037 你花更多的錢買了貴的硬件,
才有機會去折騰更複雜的環境應該說在商用的情境下,專業版的硬體設備有沒有經過優化的軟體架構會差滿多,如果你使用Win的話會建議你安裝 LTS版或者是IOT嵌入式的版本,至少不太會遇到更新爆開的問題,不過驅動上預載會變少需要手動安裝, -
@b9704037 其实你认真排查下,你的脚本可能有问题,如果正常跑,你96G显存,除了载入模型,你不该用到内存的。即便是VAE用到,它也不吃内存带宽和频率,可能你有其它流程降级到了CPU。
-
@b9704037 会,但是波动很小,只有VAE阶段会大量调用内存,其它时候内存占用率一直是比较低的状态,4090 48G基本全流程都在显存里。xtx就会频繁切换,因为要卸载模型。Pro6000你设置GPU-Only参数看看,问下AI。
-
@terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了

-
@terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了

-
@williamlouis
我一字一字把經歷打出來給你說雲, 我不懂什麼太深奧的東西, 我就一個凡人, 踩過的坑就這麼多, 避免有人踩坑, 分享一下我圖啥了, 發帖能賺錢? 我不知道你權限多高, 你覺得我這帖沒有用, 能刪了你就刪了吧, 反正我可能就發這一次貼文而已。證明我不是嘴巴說說, 我把我買過的東西都貼出來

-
@kos-or 是的, 是蝦皮購買二手的母豬礦電, 只要2100, 但品質很好, 重量很沉
我們從2月開始接觸與摸索, 差不多確實快要半年了。@韦春花 好羨慕3400元真的好平價, 真的太值得了 現在一條要價6500R

@九龙杨生 我們使用ComfyUI大概會跑50-60GB, 單張剩下40GB, 我們想說盡量地去用乾淨, 所以選擇了BF16沒有選擇FP8, 主要是600W的硬體架構與散熱, 我們還要重新買power和換機殼, 想著他太吃電了, 就沒有選擇600W
@566656661 我們有試過A10B和35B A3B, 但是不知道為什麼算力都沒有辦法一下子開頭跑滿全力運算, 總是卡卡的, 後來還是用了27B稠密, 我們的感覺是A10B A3B像省油日本車, 27B稠密像是一台油門全開的跑車。
-
@kos-or 是的, 是蝦皮購買二手的母豬礦電, 只要2100, 但品質很好, 重量很沉
我們從2月開始接觸與摸索, 差不多確實快要半年了。@韦春花 好羨慕3400元真的好平價, 真的太值得了 現在一條要價6500R

@九龙杨生 我們使用ComfyUI大概會跑50-60GB, 單張剩下40GB, 我們想說盡量地去用乾淨, 所以選擇了BF16沒有選擇FP8, 主要是600W的硬體架構與散熱, 我們還要重新買power和換機殼, 想著他太吃電了, 就沒有選擇600W
@566656661 我們有試過A10B和35B A3B, 但是不知道為什麼算力都沒有辦法一下子開頭跑滿全力運算, 總是卡卡的, 後來還是用了27B稠密, 我們的感覺是A10B A3B像省油日本車, 27B稠密像是一台油門全開的跑車。
,我們是採用類 runpod 的模式讓用戶調用不同的 ComfyUI 工作流,才不會污染環境跟打架,再來是D I T工作流也要處理好,不然光是IO就會卡住
