-
现有能用的设备:
主机 / 配置 用途 / 已知问题 现有 Z690:Z690 + 64GB DDR4 + 1600W + RTX 3080 + RTX 3090 Ti;小机箱 机箱比预期小,装不下 现有 Z890:Z890 + 32GB DDR5 + 1000W + 20TB HDD + RTX PRO 6000 Max-Q;塔式机箱 显卡大材小用;内存不足,曾导致几次任务卡死。20TB HDD 原计划用于 NAS,至今未搭好 现有 WRX80:WRX80 + 128GB DDR4 ECC + 1600W + 2 × Radeon AI PRO R9700;塔式机箱 无已知问题 调整方案:小机箱:RTX PRO 6000 + 128GB 内存 + 1000W 继续制作视频,完成后存入 NAS 调整方案:1 号塔式机箱:Z690 + 32GB DDR5 + 1600W + RTX 3090 Ti + RTX 3080 Windows 本地 AI Agent,供老婆使用 调整方案:2 号塔式机箱:Z890 + 64GB DDR4 + 1600W + 2 × Radeon AI PRO R9700 第二台本地视频生成器;连接 NAS;作为未来应用项目的主力推理设备 各位大佬给个建议,谢谢。



@Thanaots 你这套的核心约束不是显卡,是每台的内存、电源、机箱和 NAS。方向对,但有两处要先修。
1)2 号塔式写的是 z890 加 64G DDR4——z890 是 LGA1851,只吃 DDR5,DDR4 插不进去。要么换 DDR5 板,要么把 2×R9700 和现有 128G DDR4 ECC 一起放回 WRX80(你现在唯一没出问题的平台)。双 R9700 没有 NVLink / P2P,TP 全走 PCIe,WRX80 的 lane 多,反而最适合长期扩卡。
2)小机箱加 Pro 6000 加 128G 加 1000W 做视频产出:Pro 6000 Max-Q 单卡约 300W,加 CPU 和整机,1000W 长时间满载偏紧。要么上 1200W 以上的 ATX3.1,要么单独限功耗。产出机最怕的是跑到一半掉电重启,不是慢一点。
3)NAS 独立:20TB 盘单独做低功耗 NAS(2.5G / 万兆网),产出机用 SMB / NFS 挂载。别让推理机直连盘阵,尤其 2×R9700 那台;网卡尽量走 CPU 直连槽,别挂 PCH 跟显卡抢 DMI。
4)给家人用的 Windows agent(3080 加 3090Ti):显存不对等,TP 会被 3080 拖平。要跑 27B 级别就用单张 3090Ti,3080 单独带小模型或画图;要同卡 TP 就再收一张 3090Ti。
一句话:单卡大显存优先摆,平台看 lane 和内存,NAS 独立,别追求每台全能。
-
@Thanaots 你这套的核心约束不是显卡,是每台的内存、电源、机箱和 NAS。方向对,但有两处要先修。
1)2 号塔式写的是 z890 加 64G DDR4——z890 是 LGA1851,只吃 DDR5,DDR4 插不进去。要么换 DDR5 板,要么把 2×R9700 和现有 128G DDR4 ECC 一起放回 WRX80(你现在唯一没出问题的平台)。双 R9700 没有 NVLink / P2P,TP 全走 PCIe,WRX80 的 lane 多,反而最适合长期扩卡。
2)小机箱加 Pro 6000 加 128G 加 1000W 做视频产出:Pro 6000 Max-Q 单卡约 300W,加 CPU 和整机,1000W 长时间满载偏紧。要么上 1200W 以上的 ATX3.1,要么单独限功耗。产出机最怕的是跑到一半掉电重启,不是慢一点。
3)NAS 独立:20TB 盘单独做低功耗 NAS(2.5G / 万兆网),产出机用 SMB / NFS 挂载。别让推理机直连盘阵,尤其 2×R9700 那台;网卡尽量走 CPU 直连槽,别挂 PCH 跟显卡抢 DMI。
4)给家人用的 Windows agent(3080 加 3090Ti):显存不对等,TP 会被 3080 拖平。要跑 27B 级别就用单张 3090Ti,3080 单独带小模型或画图;要同卡 TP 就再收一张 3090Ti。
一句话:单卡大显存优先摆,平台看 lane 和内存,NAS 独立,别追求每台全能。
@Thanaots 你这套的核心约束不是显卡,是每台的内存、电源、机箱和 NAS。方向对,但有两处要先修。
1)2 号塔式写的是 z890 加 64G DDR4——z890 是 LGA1851,只吃 DDR5,DDR4 插不进去。要么换 DDR5 板,要么把 2×R9700 和现有 128G DDR4 ECC 一起放回 WRX80(你现在唯一没出问题的平台)。双 R9700 没有 NVLink / P2P,TP 全走 PCIe,WRX80 的 lane 多,反而最适合长期扩卡。
2)小机箱加 Pro 6000 加 128G 加 1000W 做视频产出:Pro 6000 Max-Q 单卡约 300W,加 CPU 和整机,1000W 长时间满载偏紧。要么上 1200W 以上的 ATX3.1,要么单独限功耗。产出机最怕的是跑到一半掉电重启,不是慢一点。
3)NAS 独立:20TB 盘单独做低功耗 NAS(2.5G / 万兆网),产出机用 SMB / NFS 挂载。别让推理机直连盘阵,尤其 2×R9700 那台;网卡尽量走 CPU 直连槽,别挂 PCH 跟显卡抢 DMI。
4)给家人用的 Windows agent(3080 加 3090Ti):显存不对等,TP 会被 3080 拖平。要跑 27B 级别就用单张 3090Ti,3080 单独带小模型或画图;要同卡 TP 就再收一张 3090Ti。
一句话:单卡大显存优先摆,平台看 lane 和内存,NAS 独立,别追求每台全能。
你说得对,我自己写错了。32gb是ddr5,64GB是ddr 4。那就是p
r9700x2放z690+64gb,3090+3080放z890+ddr 5。
z690主板支持的pcie卡槽有没有pcie 4 8.0x2,还是一个pcie 4 16.0+ pcie 3 8.0? 你看看。 -
@Thanaots 改过来就对了。Z690 的 PCIe 不是「独立的 2×Gen4 x8」那种配置,关键看槽位接在 CPU 还是芯片组上:
1)CPU 侧固定 16 条 Gen5 lane(一般给主 PCIEX16_1)+ 4 条 Gen4(给 M.2)。这 16 条可以拆成 x8/x8,但前提是主板上第二个 x16 物理槽也直连 CPU lane,且 BIOS 开了 x8/x8 拆分(很多板叫 PCIe Bifurcation)。拆开后两槽各 Gen5 x8,插 Gen4 卡就跑到 Gen4 x8。
2)如果第二个长槽是芯片组引出的,那它最多 Gen4 x4(有些板只给 Gen3 x4),还要和 M.2、网卡一起分 DMI 4.0 x8(约 16GB/s)。这就是你看到的「x16 + x4」而不是「x8 + x8」的来源。
3)所以别找芯片组的「2 × Gen4 x8」——没有这个东西。要的是主板规格表里两个 x16 槽都标 CPU-attached、且支持 x8/x8。翻手册的 expansion slots 表看 PCIEX16_2 的 lane 来源,再进 BIOS 确认有 bifurcation 选项。
4)双 R9700 做 TP,x8/x8 足够(Gen4 x8 ≈ 16GB/s);若只能 x8 + x4,能跑但 all-reduce 不对称,x4 那槽是瓶颈。上机验证:
lspci -vv -s <bdf>看 LnkCap / LnkSta,空载会降速,要在负载下看当前速率才是真值。z690 + 64G DDR4 放 2×R9700 本身可行,但先算内存:27B NVFP4 权重约 14G 分两张卡,KV 和长 ctx 另算;64G 偏紧就先扩内存,别先追卡。
-
@Thanaots 改过来就对了。Z690 的 PCIe 不是「独立的 2×Gen4 x8」那种配置,关键看槽位接在 CPU 还是芯片组上:
1)CPU 侧固定 16 条 Gen5 lane(一般给主 PCIEX16_1)+ 4 条 Gen4(给 M.2)。这 16 条可以拆成 x8/x8,但前提是主板上第二个 x16 物理槽也直连 CPU lane,且 BIOS 开了 x8/x8 拆分(很多板叫 PCIe Bifurcation)。拆开后两槽各 Gen5 x8,插 Gen4 卡就跑到 Gen4 x8。
2)如果第二个长槽是芯片组引出的,那它最多 Gen4 x4(有些板只给 Gen3 x4),还要和 M.2、网卡一起分 DMI 4.0 x8(约 16GB/s)。这就是你看到的「x16 + x4」而不是「x8 + x8」的来源。
3)所以别找芯片组的「2 × Gen4 x8」——没有这个东西。要的是主板规格表里两个 x16 槽都标 CPU-attached、且支持 x8/x8。翻手册的 expansion slots 表看 PCIEX16_2 的 lane 来源,再进 BIOS 确认有 bifurcation 选项。
4)双 R9700 做 TP,x8/x8 足够(Gen4 x8 ≈ 16GB/s);若只能 x8 + x4,能跑但 all-reduce 不对称,x4 那槽是瓶颈。上机验证:
lspci -vv -s <bdf>看 LnkCap / LnkSta,空载会降速,要在负载下看当前速率才是真值。z690 + 64G DDR4 放 2×R9700 本身可行,但先算内存:27B NVFP4 权重约 14G 分两张卡,KV 和长 ctx 另算;64G 偏紧就先扩内存,别先追卡。
@Thanaots 改过来就对了。Z690 的 PCIe 不是「独立的 2×Gen4 x8」那种配置,关键看槽位接在 CPU 还是芯片组上:
1)CPU 侧固定 16 条 Gen5 lane(一般给主 PCIEX16_1)+ 4 条 Gen4(给 M.2)。这 16 条可以拆成 x8/x8,但前提是主板上第二个 x16 物理槽也直连 CPU lane,且 BIOS 开了 x8/x8 拆分(很多板叫 PCIe Bifurcation)。拆开后两槽各 Gen5 x8,插 Gen4 卡就跑到 Gen4 x8。
2)如果第二个长槽是芯片组引出的,那它最多 Gen4 x4(有些板只给 Gen3 x4),还要和 M.2、网卡一起分 DMI 4.0 x8(约 16GB/s)。这就是你看到的「x16 + x4」而不是「x8 + x8」的来源。
3)所以别找芯片组的「2 × Gen4 x8」——没有这个东西。要的是主板规格表里两个 x16 槽都标 CPU-attached、且支持 x8/x8。翻手册的 expansion slots 表看 PCIEX16_2 的 lane 来源,再进 BIOS 确认有 bifurcation 选项。
4)双 R9700 做 TP,x8/x8 足够(Gen4 x8 ≈ 16GB/s);若只能 x8 + x4,能跑但 all-reduce 不对称,x4 那槽是瓶颈。上机验证:
lspci -vv -s <bdf>看 LnkCap / LnkSta,空载会降速,要在负载下看当前速率才是真值。z690 + 64G DDR4 放 2×R9700 本身可行,但先算内存:27B NVFP4 权重约 14G 分两张卡,KV 和长 ctx 另算;64G 偏紧就先扩内存,别先追卡。
我的z890可以x8 + x8。我决定再多买32gb ddr 5,组64GB运行r9700x2,这样就能解放出来z690跑3090+3080了。也可以保证所有的RAM≥vram。
另外,1000w电压应该能稳稳压住Pro max-q吧,这GPU只有300w -
@Thanaots 两条都回一下。
1)「RAM ≥ VRAM」这个判断只在会做 CPU/内存 offload 的路线(llama.cpp mmap、--n-cpu-moe)上成立;纯 GPU 的 vLLM/SGLang 推理,系统内存只要够把权重加载进显存、再加 KV/前缀缓存的余量就行,不需要跟 VRAM 等大。两卡 R9700 一共 64G VRAM,配 64G DDR5 够;如果以后跑 MoE 把专家放内存,再往 96G 加更稳。z890 能 x8/x8 就对了,但记得确认第二个 x16 槽是 CPU 直连、且 BIOS 里 bifurcation 已开。
2)1000W 单带一张 Pro Max-Q(300W):够。300W GPU + 高端 CPU 约 150–250W + 主板/盘/风扇约 100W,满载约 550–650W,1000W 的 ATX3.1 有约 40% 余量,效率也在最佳区间。Pro Max-Q 不是瞬态怪兽,不用为它上 1200W。
但提醒分配:这 1000W 别拿去带 z690 的 3090 + 3080——两张卡峰值就 350 + 320 = 670W,加 CPU 直接贴 1000W,长期满载不稳。双卡那台按 1200W 以上配,1000W 留给单卡 Pro Max-Q 这台。
-
-
說不上高手 小建議
在RTX pro 6000 max Q 那邊安裝個fan control, https://github.com/Rem0o/FanControl.Releases
我之前搞了半天這張卡溫度就是下不來 很焦躁
直到我看到這篇 溫度永遠維持75以下.. 可以安心跑overnight
這是我的溫度曲線編輯(0依據, 純ai)
-
說不上高手 小建議
在RTX pro 6000 max Q 那邊安裝個fan control, https://github.com/Rem0o/FanControl.Releases
我之前搞了半天這張卡溫度就是下不來 很焦躁
直到我看到這篇 溫度永遠維持75以下.. 可以安心跑overnight
這是我的溫度曲線編輯(0依據, 純ai)
說不上高手 小建議
在RTX pro 6000 max Q 那邊安裝個fan control, https://github.com/Rem0o/FanControl.Releases
我之前搞了半天這張卡溫度就是下不來 很焦躁
直到我看到這篇 溫度永遠維持75以下.. 可以安心跑overnight
這是我的溫度曲線編輯(0依據, 純ai)
谢谢
-
這個可能有幫助 免費的 剛release
NVIDIA Personal AI Router (PAIR)
https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/This helps you maximize local compute while keeping prompts, files, and agent context private.
-
-
-
-
-
-
-
-
,
T terry 将此主题从 AI硬件 移至此处
-
-
-
-
倒了霉了,现在wrx80e的主板应该是挂了。尝试一下256GB+Pro 6000+2xr9700。第一次进了系统,然后突然关机。
第二次进了bios,设置一下,又关机了。
再想进系统,进不去了。
现在找ASUS回厂测试返修。
新的图片暂时上传不了了。


