3W 预算玩qwen3.8-27b + 生图生视频,双R9700有没有搞头?踩坑实录
-
-
-
同样在关注R9700双卡的配置,目前在关注的几个散件如下:
- 显卡:讯景、盈通、瀚铠这三家中选
- 主板+CPU套装:铭瑄MS-iCraft B850 AIGA电脑主板+AMD 锐龙 7 9700X处理器套装,支持双PCIe 5.0 8+8 拆分
- 内存:十铨科技 矮马甲 火神DDR5 6000 32G(2x16G) C30 海力士
- 存储:致态(ZhiTai)长江存储 1TB NVMe M.2接口 TiPlus9100 Gen5
- 电源:酷冷至尊白金 1300w,支持双路12V-2x6
- 机箱:华硕PA401+利民PA120 SE套装
目前内存价格太疯狂了,只想跑LLM,没别的需求,先32G对付一阵再说。
-
買到一樣的主板, 買了之後發現 内存槽是顶着显卡PCIE插槽的, 想說 算了, 最後還是要走 pcie riser,
深度太深 305 x 330 mm 機架也不好找
大概要往這發展了, 這機架高度看來可以 深度不確定,
但能裝下照片中這張 27.2cm ASRock WRX 80 Creator - EATX Form Factor: 12.0-in x 10.7-in, 30.5 cm x 27.2 cm
折騰折騰 就為了省RAM的成本, 但能換到CP值相對高的大RAM 最後還是會很爽的
-
-
-
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
@算盤俠 说:
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
默认估计没有,需要装插件,昨天github上看到一个插件,multiGPU
-
@算盤俠 说:
@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升
默认估计没有,需要装插件,昨天github上看到一个插件,multiGPU
@stormaround 就是这个插件,最近社区出的东西
-
@算盤俠 said:
4U5管散热器套装
你有上機使用了嗎?聲音大不大 我在想要不要賣掉換其他散热器?
基本上這張主板不適合安裝顯卡GPUs, 但其他適合安裝顯卡的價格都上漲不少,
真的是踩坑實錄, 但你手上記憶體多 好處是可以安裝16隻
-
-
@算盤俠 还没定就把它收敛成一个决定,别再为 PCIe5 纠结。
先算账:你手上有几十条 DDR4 16G ECC + 一颗 EPYC 7302,这是预算里最大的一块优势。为 PCIe5 去上 Genoa(9004)+ DDR5,等于把手上的内存和 CPU 全废掉,整机成本翻倍——这跟你「省 RAM 成本」的初衷是反的。
再说带宽:EPYC 7002 只有 PCIe 4.0,但双卡 x8/x8 单向约 16 GB/s,对 R9700 双卡 TP/RCCL 完全够。TP 每层 allreduce 的数据量很小,H3 双卡插件走 RCCL,瓶颈在显存带宽和 VAE,不在 PCIe 4.0 x8。真正影响 P2P 的是 Above 4G 与 BAR 大小,R9700 能拿满 32G BAR,这点没问题。
板子就二选一:
- ASRock Rack ROMED8-2T:7 条 PCIe 4.0 x16,槽距松,8 通道 DDR4 ECC,最省心;
- 超微 H12SSL-i / H12SSL-CT:5 条 PCIe 4.0 x16,注意槽距与转接需求。
你上次那块 MZ32-AR0 的坑就是 DIMM 顶着长卡,这两块不会。
其余照旧:电源选原生带两条 12V-2x6 的 1200W 白金,别用一分二转接;内存尽量插满 8 通道(128G 起步,跑 H3 建议 256G);机箱用 4U 或开放平台。
一句话:ROMED8-2T + 7302 + 你手上的 DDR4 ECC,就是这个预算下的终点。想上 PCIe5 就直说,那是另一套预算。
-
@算盤俠 还没定就把它收敛成一个决定,别再为 PCIe5 纠结。
先算账:你手上有几十条 DDR4 16G ECC + 一颗 EPYC 7302,这是预算里最大的一块优势。为 PCIe5 去上 Genoa(9004)+ DDR5,等于把手上的内存和 CPU 全废掉,整机成本翻倍——这跟你「省 RAM 成本」的初衷是反的。
再说带宽:EPYC 7002 只有 PCIe 4.0,但双卡 x8/x8 单向约 16 GB/s,对 R9700 双卡 TP/RCCL 完全够。TP 每层 allreduce 的数据量很小,H3 双卡插件走 RCCL,瓶颈在显存带宽和 VAE,不在 PCIe 4.0 x8。真正影响 P2P 的是 Above 4G 与 BAR 大小,R9700 能拿满 32G BAR,这点没问题。
板子就二选一:
- ASRock Rack ROMED8-2T:7 条 PCIe 4.0 x16,槽距松,8 通道 DDR4 ECC,最省心;
- 超微 H12SSL-i / H12SSL-CT:5 条 PCIe 4.0 x16,注意槽距与转接需求。
你上次那块 MZ32-AR0 的坑就是 DIMM 顶着长卡,这两块不会。
其余照旧:电源选原生带两条 12V-2x6 的 1200W 白金,别用一分二转接;内存尽量插满 8 通道(128G 起步,跑 H3 建议 256G);机箱用 4U 或开放平台。
一句话:ROMED8-2T + 7302 + 你手上的 DDR4 ECC,就是这个预算下的终点。想上 PCIe5 就直说,那是另一套预算。
-
@算盤俠 那就把手上的东西用满,别为「用上 20 条内存」去升级平台。
CPU:你已有的 EPYC 7302 直接用。16C/32T、128 条 PCIe 4.0 lane、8 通道 DDR4-3200,带双 R9700 绰绰有余。
主板(单路 SP3,8 DIMM):
- 首选 ASRock Rack ROMED8-2T:7 条 PCIe 4.0 x16,槽多、间距大,多卡最省心。
- 备选 Supermicro H12SSL-i:5 条 x16;但它的 DIMM 槽夹在 CPU 和 PCIe 槽之间,长卡容易顶到内存卡扣——你说的「内存和显卡打架」多半就是这类板。下单前拿卡长和板子图量一下。
- Gigabyte MZ32-AR0 也可。
内存:SP3 单路只有 8 个 DIMM 槽(1DPC)。插 8×16G=128GB,DDR4-3200 满速;剩下十几条留备用。要插满 16/20 条只能上双路(H12DSi、MZ72-HB0),但得多买一块板加第二颗 CPU,纯为用内存不值;而且 7002 走 2DPC 会掉到 2933/2666,反而不如 8 条 3200。
物理与供电:
- 双 R9700 都是 2.5–3 槽厚,选槽间距 ≥3 槽的板;必要时用带 redriver 的 PCIe 4.0 riser,别用无源长线。
- 7302 是 Gen4,x8/x8 给双卡约各 16GB/s,跑 TP/NCCL 够,不用为 PCIe5 换 Genoa/DDR5。
- 电源 1000W ATX 3.1 起,按双卡各 300W 峰值加 155W CPU 留瞬态余量。
结论:7302 + ROMED8-2T + 8×16G DDR4-3200 + 1000W,双 R9700 落位;多出来的内存留着,别让它反过来绑架平台选择。
-
@算盤俠 那就把手上的东西用满,别为「用上 20 条内存」去升级平台。
CPU:你已有的 EPYC 7302 直接用。16C/32T、128 条 PCIe 4.0 lane、8 通道 DDR4-3200,带双 R9700 绰绰有余。
主板(单路 SP3,8 DIMM):
- 首选 ASRock Rack ROMED8-2T:7 条 PCIe 4.0 x16,槽多、间距大,多卡最省心。
- 备选 Supermicro H12SSL-i:5 条 x16;但它的 DIMM 槽夹在 CPU 和 PCIe 槽之间,长卡容易顶到内存卡扣——你说的「内存和显卡打架」多半就是这类板。下单前拿卡长和板子图量一下。
- Gigabyte MZ32-AR0 也可。
内存:SP3 单路只有 8 个 DIMM 槽(1DPC)。插 8×16G=128GB,DDR4-3200 满速;剩下十几条留备用。要插满 16/20 条只能上双路(H12DSi、MZ72-HB0),但得多买一块板加第二颗 CPU,纯为用内存不值;而且 7002 走 2DPC 会掉到 2933/2666,反而不如 8 条 3200。
物理与供电:
- 双 R9700 都是 2.5–3 槽厚,选槽间距 ≥3 槽的板;必要时用带 redriver 的 PCIe 4.0 riser,别用无源长线。
- 7302 是 Gen4,x8/x8 给双卡约各 16GB/s,跑 TP/NCCL 够,不用为 PCIe5 换 Genoa/DDR5。
- 电源 1000W ATX 3.1 起,按双卡各 300W 峰值加 155W CPU 留瞬态余量。
结论:7302 + ROMED8-2T + 8×16G DDR4-3200 + 1000W,双 R9700 落位;多出来的内存留着,别让它反过来绑架平台选择。
-
-
-

