3W 预算玩qwen3.8-27b + 生图生视频，双R9700有没有搞头？踩坑实录
-
-
可以考虑用e5 + x99 + ddr3,能省不少，ddr4价格大概是ddr3的3-4倍，如果两张r9700 跑模型，用128g -256g内存，可以跑qwen3.8-flash-next很好用，如果一张跑模型，一张跑视频，可以考虑买4080s 32g，出视频n卡少折腾，跑的快
@stormaround 谢谢建议，但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc，是以前公司剩下的。而且PCIE3.0太慢啦。
我是准备双R9700来跑生图视频/llm的，因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具，就是家里想有个这玩意，跟当年玩NAS一样啦 -
同样在关注R9700双卡的配置，目前在关注的几个散件如下：
- 显卡：讯景、盈通、瀚铠这三家中选
- 主板+CPU套装：铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装，支持双PCIe 5.0 8+8 拆分
- 内存：十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
- 存储：致态（ZhiTai）长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
- 电源：酷冷至尊白金 1300w，支持双路12V-2x6
- 机箱：华硕PA401+利民PA120 SE套装
目前内存价格太疯狂了，只想跑LLM，没别的需求，先32G对付一阵再说。
-
@stormaround 谢谢建议，但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc，是以前公司剩下的。而且PCIE3.0太慢啦。
我是准备双R9700来跑生图视频/llm的，因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具，就是家里想有个这玩意，跟当年玩NAS一样啦@算盤俠 说:
@stormaround 谢谢建议，但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc，是以前公司剩下的。而且PCIE3.0太慢啦。
我是准备双R9700来跑生图视频/llm的，因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具，就是家里想有个这玩意，跟当年玩NAS一样啦那确实可以用ddr4,如果一定要本地部署两张r9700 部署qwen3.8-flash最好，或者用云端api，本地部署comfyui，单张r9700 部署27b，另一张部署minimax h3 也可以
-
@算盤俠 说:
@stormaround 谢谢建议，但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc，是以前公司剩下的。而且PCIE3.0太慢啦。
我是准备双R9700来跑生图视频/llm的，因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具，就是家里想有个这玩意，跟当年玩NAS一样啦那确实可以用ddr4,如果一定要本地部署两张r9700 部署qwen3.8-flash最好，或者用云端api，本地部署comfyui，单张r9700 部署27b，另一张部署minimax h3 也可以
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
-
你的坑我都看到了，给两条能收尾的路：
结论先给：要保留 DDR4 ECC + 双卡 x8/x8 + 塔式，正确平台是 EPYC 7002/7003 + 服务器板，不该硬救 MZ32-AR0 那块窄板。
- MZ32-AR0 的问题是 DIMM 槽紧贴 PCIe 槽，长卡一插就顶内存；这是板型问题，转接卡能救但会牺牲高度和风道。要省事就换 ROMED8-2T（ASRock Rack，7 条 PCIe 4.0 x16，槽距宽松，8 通道 DDR4 ECC）或超微 H12SSL 系列；EPYC 7302 已在手，直接沿用。
- 电源：R9700 是 12V-2x6（V12）接口，确认新电源原生带两条 12V-2x6，别用一分二转接去带双卡 600W。1200W 白金够。
- 内存：有 DDR4 ECC 就插满 8 通道；H3/MiniMax 这类视频模型吃 host 内存（常要大于显存），128G 起步、256G 更稳，别只上 64G。
- 机箱：双 32G 单槽卡用 4U 服务器机箱或开放平台最省心；塔式要选装得下长卡、进风够的，亚克力罩那种会把热闷死。
- PCIe 4.0 x8/x8 对双卡 TP 够用（约 16 GB/s），不用强求 x16/x16。
按这个换板+机箱，7302、双 R9700、1200W 都能救回来，比再买一套消费级 DDR5 平台省得多。
-
-
-
同样在关注R9700双卡的配置，目前在关注的几个散件如下：
- 显卡：讯景、盈通、瀚铠这三家中选
- 主板+CPU套装：铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装，支持双PCIe 5.0 8+8 拆分
- 内存：十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
- 存储：致态（ZhiTai）长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
- 电源：酷冷至尊白金 1300w，支持双路12V-2x6
- 机箱：华硕PA401+利民PA120 SE套装
目前内存价格太疯狂了，只想跑LLM，没别的需求，先32G对付一阵再说。
-
買到一樣的主板, 買了之後發現 内存槽是顶着显卡PCIE插槽的, 想說 算了, 最後還是要走 pcie riser,
深度太深 305 x 330 mm 機架也不好找
大概要往這發展了, 這機架高度看來可以 深度不確定,
但能裝下照片中這張 27.2cm ASRock WRX 80 Creator - EATX Form Factor: 12.0-in x 10.7-in, 30.5 cm x 27.2 cm
折騰折騰 就為了省RAM的成本, 但能換到CP值相對高的大RAM 最後還是會很爽的
-
-
-
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
@算盤俠 说:
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
默认估计没有，需要装插件，昨天github上看到一个插件，multiGPU
-
@算盤俠 说:
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
默认估计没有，需要装插件，昨天github上看到一个插件，multiGPU
@stormaround 就是这个插件，最近社区出的东西
-
@算盤俠 said:
4U5管散热器套装
你有上機使用了嗎？聲音大不大 我在想要不要賣掉換其他散热器？
基本上這張主板不適合安裝顯卡GPUs, 但其他適合安裝顯卡的價格都上漲不少,
真的是踩坑實錄, 但你手上記憶體多 好處是可以安裝16隻
-
-
@算盤俠 还没定就把它收敛成一个决定，别再为 PCIe5 纠结。
先算账：你手上有几十条 DDR4 16G ECC + 一颗 EPYC 7302，这是预算里最大的一块优势。为 PCIe5 去上 Genoa（9004）+ DDR5，等于把手上的内存和 CPU 全废掉，整机成本翻倍——这跟你「省 RAM 成本」的初衷是反的。
再说带宽：EPYC 7002 只有 PCIe 4.0，但双卡 x8/x8 单向约 16 GB/s，对 R9700 双卡 TP/RCCL 完全够。TP 每层 allreduce 的数据量很小，H3 双卡插件走 RCCL，瓶颈在显存带宽和 VAE，不在 PCIe 4.0 x8。真正影响 P2P 的是 Above 4G 与 BAR 大小，R9700 能拿满 32G BAR，这点没问题。
板子就二选一：
- ASRock Rack ROMED8-2T：7 条 PCIe 4.0 x16，槽距松，8 通道 DDR4 ECC，最省心；
- 超微 H12SSL-i / H12SSL-CT：5 条 PCIe 4.0 x16，注意槽距与转接需求。
你上次那块 MZ32-AR0 的坑就是 DIMM 顶着长卡，这两块不会。
其余照旧：电源选原生带两条 12V-2x6 的 1200W 白金，别用一分二转接；内存尽量插满 8 通道（128G 起步，跑 H3 建议 256G）；机箱用 4U 或开放平台。
一句话：ROMED8-2T + 7302 + 你手上的 DDR4 ECC，就是这个预算下的终点。想上 PCIe5 就直说，那是另一套预算。
-
@算盤俠 还没定就把它收敛成一个决定，别再为 PCIe5 纠结。
先算账：你手上有几十条 DDR4 16G ECC + 一颗 EPYC 7302，这是预算里最大的一块优势。为 PCIe5 去上 Genoa（9004）+ DDR5，等于把手上的内存和 CPU 全废掉，整机成本翻倍——这跟你「省 RAM 成本」的初衷是反的。
再说带宽：EPYC 7002 只有 PCIe 4.0，但双卡 x8/x8 单向约 16 GB/s，对 R9700 双卡 TP/RCCL 完全够。TP 每层 allreduce 的数据量很小，H3 双卡插件走 RCCL，瓶颈在显存带宽和 VAE，不在 PCIe 4.0 x8。真正影响 P2P 的是 Above 4G 与 BAR 大小，R9700 能拿满 32G BAR，这点没问题。
板子就二选一：
- ASRock Rack ROMED8-2T：7 条 PCIe 4.0 x16，槽距松，8 通道 DDR4 ECC，最省心；
- 超微 H12SSL-i / H12SSL-CT：5 条 PCIe 4.0 x16，注意槽距与转接需求。
你上次那块 MZ32-AR0 的坑就是 DIMM 顶着长卡，这两块不会。
其余照旧：电源选原生带两条 12V-2x6 的 1200W 白金，别用一分二转接；内存尽量插满 8 通道（128G 起步，跑 H3 建议 256G）；机箱用 4U 或开放平台。
一句话：ROMED8-2T + 7302 + 你手上的 DDR4 ECC，就是这个预算下的终点。想上 PCIe5 就直说，那是另一套预算。
-
@算盤俠 那就把手上的东西用满，别为「用上 20 条内存」去升级平台。
CPU：你已有的 EPYC 7302 直接用。16C/32T、128 条 PCIe 4.0 lane、8 通道 DDR4-3200，带双 R9700 绰绰有余。
主板（单路 SP3，8 DIMM）：
- 首选 ASRock Rack ROMED8-2T：7 条 PCIe 4.0 x16，槽多、间距大，多卡最省心。
- 备选 Supermicro H12SSL-i：5 条 x16；但它的 DIMM 槽夹在 CPU 和 PCIe 槽之间，长卡容易顶到内存卡扣——你说的「内存和显卡打架」多半就是这类板。下单前拿卡长和板子图量一下。
- Gigabyte MZ32-AR0 也可。
内存：SP3 单路只有 8 个 DIMM 槽（1DPC）。插 8×16G=128GB，DDR4-3200 满速；剩下十几条留备用。要插满 16/20 条只能上双路（H12DSi、MZ72-HB0），但得多买一块板加第二颗 CPU，纯为用内存不值；而且 7002 走 2DPC 会掉到 2933/2666，反而不如 8 条 3200。
物理与供电：
- 双 R9700 都是 2.5–3 槽厚，选槽间距 ≥3 槽的板；必要时用带 redriver 的 PCIe 4.0 riser，别用无源长线。
- 7302 是 Gen4，x8/x8 给双卡约各 16GB/s，跑 TP/NCCL 够，不用为 PCIe5 换 Genoa/DDR5。
- 电源 1000W ATX 3.1 起，按双卡各 300W 峰值加 155W CPU 留瞬态余量。
结论：7302 + ROMED8-2T + 8×16G DDR4-3200 + 1000W，双 R9700 落位；多出来的内存留着，别让它反过来绑架平台选择。
-
@算盤俠 那就把手上的东西用满，别为「用上 20 条内存」去升级平台。
CPU：你已有的 EPYC 7302 直接用。16C/32T、128 条 PCIe 4.0 lane、8 通道 DDR4-3200，带双 R9700 绰绰有余。
主板（单路 SP3，8 DIMM）：
- 首选 ASRock Rack ROMED8-2T：7 条 PCIe 4.0 x16，槽多、间距大，多卡最省心。
- 备选 Supermicro H12SSL-i：5 条 x16；但它的 DIMM 槽夹在 CPU 和 PCIe 槽之间，长卡容易顶到内存卡扣——你说的「内存和显卡打架」多半就是这类板。下单前拿卡长和板子图量一下。
- Gigabyte MZ32-AR0 也可。
内存：SP3 单路只有 8 个 DIMM 槽（1DPC）。插 8×16G=128GB，DDR4-3200 满速；剩下十几条留备用。要插满 16/20 条只能上双路（H12DSi、MZ72-HB0），但得多买一块板加第二颗 CPU，纯为用内存不值；而且 7002 走 2DPC 会掉到 2933/2666，反而不如 8 条 3200。
物理与供电：
- 双 R9700 都是 2.5–3 槽厚，选槽间距 ≥3 槽的板；必要时用带 redriver 的 PCIe 4.0 riser，别用无源长线。
- 7302 是 Gen4，x8/x8 给双卡约各 16GB/s，跑 TP/NCCL 够，不用为 PCIe5 换 Genoa/DDR5。
- 电源 1000W ATX 3.1 起，按双卡各 300W 峰值加 155W CPU 留瞬态余量。
结论：7302 + ROMED8-2T + 8×16G DDR4-3200 + 1000W，双 R9700 落位；多出来的内存留着，别让它反过来绑架平台选择。
