技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行
-
-
-
-
也不算吧 A770 這東西是能多貴 就快樂的垃圾老找東西折騰而已
-
-
我2张pro6000 分开2台主机 用的是870主板 这中间踩了个坑 买内存时 ，有1台用的是32gb x 4=128GB 很稳定，另一台图价格优势 买了2套48gb x 2(不是48 x 4），结果总不稳定。vast总离线死机 折腾了1个多月 又重新买了64GB x 2=128GB 总算稳定运行了。现在多出来4条48GB 暂时空闲 考虑到之前4条一起用 总不稳定 所以现在不敢配在同一台机使用。现在有点纠结 是买多2张卡 还是把内存卖掉 大伙给点主意。照说 5090+96GB内存算是比较稳的配置 但这样 为了4条内存 又得去买2张5090 现在价格这么贵 实在有点矛盾。
-
我2张pro6000 分开2台主机 用的是870主板 这中间踩了个坑 买内存时 ，有1台用的是32gb x 4=128GB 很稳定，另一台图价格优势 买了2套48gb x 2(不是48 x 4），结果总不稳定。vast总离线死机 折腾了1个多月 又重新买了64GB x 2=128GB 总算稳定运行了。现在多出来4条48GB 暂时空闲 考虑到之前4条一起用 总不稳定 所以现在不敢配在同一台机使用。现在有点纠结 是买多2张卡 还是把内存卖掉 大伙给点主意。照说 5090+96GB内存算是比较稳的配置 但这样 为了4条内存 又得去买2张5090 现在价格这么贵 实在有点矛盾。
-
@jay-liao 先把根因定住：大概率不是「48GB 颗粒的锅」，而是「4 条 DIMM + 两套 kit」在 4 槽桌面板上的经典问题。
桌面 DDR5 板（X870/AM5 这类）走菊花链，插满 4 条时内存控制器只能降频保稳——AM5 上 4 条双 rank 常见要掉到 3600 一档，延迟也跟着涨。你买的是「两套 2×48」，即使同型号也不是一起验证过的组合，混插更容易出间歇性不稳。换成 2×64 就稳，恰好印证了「2 条稳、4 条不稳」，跟容量数字无关。
验证顺序（半天能出结论）：
- 只用 2 条（第 2、4 槽）开 EXPO——有实测 2×48GB 在 AM5 上跑 6000 是没问题的，先确认单套本身是好的；
- 4 条想要稳，就压到 JEDEC/3600 并放宽时序，然后 memtest86 过 4 轮以上，再挂几天看
dmesg有没有内存报错。有错就不是玄学，是信号层问题； - BIOS 提到最新，重启后先只改频率这一项，别一次动多个开关。
关键判断在这：这台机器的活是 GPU 推理，内存频率对你几乎没有影响——权重常驻显存，DDR 只影响模型加载和 offload 那几秒。所以 4×48 要是能在 3600 稳住，留着用完全合理，不必为了标称频率折腾。
至于「买多 2 张卡 还是把内存卖掉」：为内存配显卡是反过来的逻辑。显卡该不该买只看 VRAM 够不够、要不要多实例，内存是整套里最便宜的一环，不该成为买 5090 的理由。反过来说，现在 DDR5 在涨价周期里，4 条 48GB 出手是能变现的，不急着处理也不亏。
最后一个提醒：vast 上「离线死机」如果还在复现，先把内存变量排掉（只插 2 条跑 3–5 天）。不然以后每次出问题你都会同时怀疑 GPU 和内存，排查会一直不收敛。
-
我人生第一次接触AI就是看了版主抡锤者的视频
最早我贪图便宜买了2张Intel A770 16G但是如就像版主说的那样太折腾了,
好不容易跑通, 后来新模型出来又要重新搞一遍, I卡浪费了我的青春, 而我却什么也没得到。后来换成了两张2080ti 22G魔改卡, 我们感受到了质的飞越,
但因为需要跑ComfyUI需要更大的Vram我们换了两张V100 32G虽然旧, 但依旧值回票价。
如今我们跑通了全流程, 直接倾家荡产换上了两张Pro6000 96G。虽然贵, 但必须得说, 真的"太值了"。
主要是想给还在考虑Pro6000的朋友用力推一把, 不是要把你推向深渊, 而是让你展翅高飞。
也把一些我们中途遇到的困难和有想要入手的朋友分享, 至少面对困难之前会有心理准备
主机板：GIGABYTE Z890 AERO G
CPU：Intel Core Ultra 5 225
RAM：Micron DDR5 64GB 6400 ×4
显卡：NVIDIA Pro 6000 Max-Q / Pro 6000 96GB x2
电源：EVGA 1000W GT
存储 : 1TB NVMe x 2
我们使用了Qwen3.6 27B的 BF16模型 256K, 大约会占用60GB的显存
透过llama.cpp的调度分散到两张卡上面, 单卡会占用约30GB左右
在Hermes上实际应用都可以落在25~35t/s以上的速度, Thinking模式有开启, 因为我们实际测试过Thinking模式虽然会导致首字速度变慢, 但是确实智力上和提供的工具调用与来回答覆内容上都可以更加精准使得我们工作更加顺利。每张卡剩余的约60初GB, 我们用来做ComfyUI, 单卡跑LTX2.3的状况, 基本上都可以扛住复杂的工作流, 大约最多占用到50GB, 而且720P / 40秒 的长影片可以轻松产出, 我们验证过Hermes运作时与ComfyUI同时运作时Pro6000本身自带ECC侦错, 可以防止跑大量资料堆积在显存上运算时记忆体发生错误。
要注意的事情
1.建议买Max-Q版本不建议买600W版本, 主要是600W的算力只比Max-Q多15-20%, 但供耗却多出一倍, 如果以商业角度来说, 在未来3年后保值性的部分Max-Q会比600W保值, 因为硬体规格是一样的, 600W版本只是用功率调升一倍, 去硬拉出15%的效能, 商业用户会更多的考虑功率与算力的比值, 而且以个人角度来说Max-Q很够了。2.双显示卡, 如果要搭配比较新的主板如Z890, 很多板子其实没有支援PCIe拆分, 这个买的时候一定要看清楚, 不然买了没有支援会生气。
3.要同时支持llama.cpp, Hermes, 双显卡ComfyUI工作流, 内存一定要够大, 我们当初天真的以为128G够用了, 插了4条32G, 结果全部工作流塞再一起, 直接崩了, 后来又多花钱重新买了 4条 DDR5 6400 64G, 差点都得卖房卖车卖肾。
4.X79.X99平台我们因为贪图记忆体DDR3很便宜, 也买来使用过, 但效果太差了, llama.cpp与Hermes还可以没有问题, 但同时运作ComfyUI, 但LTX2.3选用大颗的模型与复杂工作流时, 很多节点他会大量快速的调用内存, 我们使用了 DDR3 1600 非常卡, 卡到我决定直接换成Z890 又重新破产了一次。
5.BIOS问题, DDR5 4条 64G 同时插上去, 以BIOS版本没有更新的状况,很大概率, 你会点不开机, 卡住, 请一定要把BIOS更新, 且在购买记忆体前, 上网站查询他支援的品牌与频率, 上面没有不代表不能用, 而是代表你得赌, 赌他能不能开机, 赌对了像我一样用的飞起, 赌错了, 荷包又要失血了。
这是我们现在的伺服器工作状态, 基本上就是这样常开着。
- CPU, 会比较建议用Intel, 但买最便宜的就好了但一定要有内显, 不要让我们尊贵不凡的GPU去承担任何一点萤幕显示的效能, 再者我们这么多的工作很少看到CPU吃满, 另外主要是因为主机板的关系, 因为大多时候要真的能够支援DDR5 4条 64G的状况, 支援Intel的主机板, 胜率会比较高, AMD的主机板胜率比较低一些, 但这很看脸, 看运气, 看你平常有没有扶老奶奶过马路积阴德。
最后要说, 抡捶者版主给的资讯都很正确, 一路从Intel是拉基, 到2080Ti魔改卡, 到V100 32G, 到最后Pro6000原地直接飞起, 我们一路上都是花了真金白银, 真的就是你想省硬件, 那你折腾环境, 你不想折腾环境, 那你就得花硬件。
用上两张Pro6000的时候, 我们的感觉好像世界重新打开一样, 不管什么工作流什么GGUF, 再也不用烦恼环境问题, 硬体不足的问题, 真的非常快乐, 如果你也是一个有一些预算, 正在犹豫要pro5000. 4090 48G. 5090 32G的朋友, 请再多想想, 未来两三年如果硬体不够用带来的烦恼与后悔, 现在加一点点预算直上pro6000, 两年后的自己一定会感谢现在的自己。
最后感谢版主抡捶者, 带领我进入AI的领域, 让当初的我从I卡的拉圾堆, 勇敢地爬了出来。真诚的感恩。
-
三风扇 3090 Ti 能不能并插，卡点不在主板芯片组，而在槽距和卡厚：
- 3090 Ti 三风扇版普遍 3–3.5 槽厚（55–70mm）、长 320–340mm。两张并排，第二张的进风口会被第一张背板挡死。
- Z890 AERO G 两条全长槽通常只隔约 2 槽（第二槽多是芯片组的 x4/x8），按标准 20.32mm/槽算中心距约 40.6mm，塞不进两张 3 槽卡。
- 自查：翻主板手册看两条槽的槽位编号差几槽，卡的标称厚度 ÷ 20.32 = 占几槽。差 ≥4 槽才稳，3 槽基本贴脸。
要上就三条路：① 第二张走 PCIe 延长线竖装/外置，最省事；② 换槽距 4 槽的板或服务器准系统；③ 水冷改单槽。另外 3090 Ti 单卡峰值约 450–500W，双卡加平台电源 1300W 起，瞬态按 1.5× 留。
-
-
-
老哥不知道您A770還在不再 願意借我或賣我折騰 我現在有一張了 但網路上要收第二張真的不容易
-
你好，我刚刚买了单张的6000 max-q。机器本来是游戏机，所以是x870的主板，也不支持拆分pcie，应该就一直是单张了。内存只有32g 但是可以加到64g。 目前想同时运行Qwen3.8 27b + ComfyUI跑图/视频生成。这个你觉得会有问题吗？
-
@Misakiyu-Xmilk
很久沒上來看看了, 我剩下的那一張A770還在, 賣不出去拿去打電動了Q_Q, 如果你還有興趣 可以聯繫我的 -
-
-
我人生第一次接触AI就是看了版主抡锤者的视频
最早我贪图便宜买了2张Intel A770 16G但是如就像版主说的那样太折腾了,
好不容易跑通, 后来新模型出来又要重新搞一遍, I卡浪费了我的青春, 而我却什么也没得到。后来换成了两张2080ti 22G魔改卡, 我们感受到了质的飞越,
但因为需要跑ComfyUI需要更大的Vram我们换了两张V100 32G虽然旧, 但依旧值回票价。
如今我们跑通了全流程, 直接倾家荡产换上了两张Pro6000 96G。虽然贵, 但必须得说, 真的"太值了"。
主要是想给还在考虑Pro6000的朋友用力推一把, 不是要把你推向深渊, 而是让你展翅高飞。
也把一些我们中途遇到的困难和有想要入手的朋友分享, 至少面对困难之前会有心理准备
主机板：GIGABYTE Z890 AERO G
CPU：Intel Core Ultra 5 225
RAM：Micron DDR5 64GB 6400 ×4
显卡：NVIDIA Pro 6000 Max-Q / Pro 6000 96GB x2
电源：EVGA 1000W GT
存储 : 1TB NVMe x 2我们使用了Qwen3.6 27B的 BF16模型 256K, 大约会占用60GB的显存
透过llama.cpp的调度分散到两张卡上面, 单卡会占用约30GB左右
在Hermes上实际应用都可以落在25~35t/s以上的速度, Thinking模式有开启, 因为我们实际测试过Thinking模式虽然会导致首字速度变慢, 但是确实智力上和提供的工具调用与来回答覆内容上都可以更加精准使得我们工作更加顺利。每张卡剩余的约60初GB, 我们用来做ComfyUI, 单卡跑LTX2.3的状况, 基本上都可以扛住复杂的工作流, 大约最多占用到50GB, 而且720P / 40秒 的长影片可以轻松产出, 我们验证过Hermes运作时与ComfyUI同时运作时Pro6000本身自带ECC侦错, 可以防止跑大量资料堆积在显存上运算时记忆体发生错误。
要注意的事情
1.建议买Max-Q版本不建议买600W版本, 主要是600W的算力只比Max-Q多15-20%, 但供耗却多出一倍, 如果以商业角度来说, 在未来3年后保值性的部分Max-Q会比600W保值, 因为硬体规格是一样的, 600W版本只是用功率调升一倍, 去硬拉出15%的效能, 商业用户会更多的考虑功率与算力的比值, 而且以个人角度来说Max-Q很够了。2.双显示卡, 如果要搭配比较新的主板如Z890, 很多板子其实没有支援PCIe拆分, 这个买的时候一定要看清楚, 不然买了没有支援会生气。
3.要同时支持llama.cpp, Hermes, 双显卡ComfyUI工作流, 内存一定要够大, 我们当初天真的以为128G够用了, 插了4条32G, 结果全部工作流塞再一起, 直接崩了, 后来又多花钱重新买了 4条 DDR5 6400 64G, 差点都得卖房卖车卖肾。
4.X79.X99平台我们因为贪图记忆体DDR3很便宜, 也买来使用过, 但效果太差了, llama.cpp与Hermes还可以没有问题, 但同时运作ComfyUI, 但LTX2.3选用大颗的模型与复杂工作流时, 很多节点他会大量快速的调用内存, 我们使用了 DDR3 1600 非常卡, 卡到我决定直接换成Z890 又重新破产了一次。
5.BIOS问题, DDR5 4条 64G 同时插上去, 以BIOS版本没有更新的状况,很大概率, 你会点不开机, 卡住, 请一定要把BIOS更新, 且在购买记忆体前, 上网站查询他支援的品牌与频率, 上面没有不代表不能用, 而是代表你得赌, 赌他能不能开机, 赌对了像我一样用的飞起, 赌错了, 荷包又要失血了。
这是我们现在的伺服器工作状态, 基本上就是这样常开着。
- CPU, 会比较建议用Intel, 但买最便宜的就好了但一定要有内显, 不要让我们尊贵不凡的GPU去承担任何一点萤幕显示的效能, 再者我们这么多的工作很少看到CPU吃满, 另外主要是因为主机板的关系, 因为大多时候要真的能够支援DDR5 4条 64G的状况, 支援Intel的主机板, 胜率会比较高, AMD的主机板胜率比较低一些, 但这很看脸, 看运气, 看你平常有没有扶老奶奶过马路积阴德。
最后要说, 抡捶者版主给的资讯都很正确, 一路从Intel是拉基, 到2080Ti魔改卡, 到V100 32G, 到最后Pro6000原地直接飞起, 我们一路上都是花了真金白银, 真的就是你想省硬件, 那你折腾环境, 你不想折腾环境, 那你就得花硬件。
用上两张Pro6000的时候, 我们的感觉好像世界重新打开一样, 不管什么工作流什么GGUF, 再也不用烦恼环境问题, 硬体不足的问题, 真的非常快乐, 如果你也是一个有一些预算, 正在犹豫要pro5000. 4090 48G. 5090 32G的朋友, 请再多想想, 未来两三年如果硬体不够用带来的烦恼与后悔, 现在加一点点预算直上pro6000, 两年后的自己一定会感谢现在的自己。
最后感谢版主抡捶者, 带领我进入AI的领域, 让当初的我从I卡的拉圾堆, 勇敢地爬了出来。真诚的感恩。
-
-
看到都开心。。。。一定很爽
本帖点赞数达到自动加精门槛，已设为精华，作者 +5 积分奖励，希望再接再厉！
