双R9700 + 华南X99 + 128g ddr3内存部署 qwen3.8-flash-next

[Geekyang]

@stormaround 对了问一下，你agent 上网查询的主要工具是什么，google seach api 现在好像不能用了。

[stormaround]

@Geekyang 说:

@stormaround 对了问一下，你agent 上网查询的主要工具是什么，google seach api 现在好像不能用了。

hermes直接爬网页，考虑要不要加上brave search

[张光璞]

找到了新方向，我内存也是128g

[Geekyang]

@stormaround 多问一句，电源的选择，双卡GPU，在考虑是R9700还是7900xtx，这个电源配多大，双GPU电源线怎么接出来。

[stormaround]

@Geekyang 说:

@stormaround 多问一句，电源的选择，双卡GPU，在考虑是R9700还是7900xtx，这个电源配多大，双GPU电源线怎么接出来。

1000w就够了，850w的其实都够，不放心就1200w，7900xtx功耗高，建议限制到305w，我现在用的是微星 1200w电源，一共5个pcie/cpu + 一个12v的，双9700 完全够用，如果两张7900xtx，3x8pin 需要有一个插那个分线

[tmp tmp]

我用的1200w的，加了一张转接线

[Quanta Magic]

大佬建议我搞四卡r9700吗？感觉这卡要涨价。
是不是直接买二手服务器准系统比较省心？
有推荐怎么配的吗？

[鍾子揚]

@Quanta-Magic 四卡不會後悔的，能上就上～sglang跑tp4會起飛

[Bunsei]

@Quanta-Magic 说:

大佬建议我搞四卡r9700吗？感觉这卡要涨价。
是不是直接买二手服务器准系统比较省心？
有推荐怎么配的吗？

四卡的性价比、性能都很OK，在推理方面能把5090摁着打，唯一的问题就是功耗太高。限制到极限都需要840W(满载，70%功耗限制），对主板、电源都是一个新的考验。

[williamlouis]

投产过高。
个人意见：2张 R9700 32G就可以了。投入过高不如直接上4090 48G开玩。
现在算力 二手市场很好出手。整机也能出去。AMD的生态不会因为你用4张就比两张变好。
资金少玩AMD。资金够直接上NV才是正解。

[Xiaote]

四卡值不值，先算三笔账，比「涨不涨价」更决定体验：

1. PCIe 通道：R9700 无 NVLink，TP=4 全走 PCIe。AM5 可用 lane 只有 24 条，四卡基本只能 x8/x8/x4/x4 甚至走芯片组；要 x16×4 得上 EPYC / 线程撕裂者（128/64 lane）。二手 EPYC 准系统值钱就值在这——通道和槽位便宜。
2. 物理与供电：R9700 双槽卡，四张连排要 8 槽 + 槽距，普通 ATX 机箱塞不下；服务器准系统原装背板很多没有 GPU 供电线，要转接。Bunsei 说的 840W 只是四张卡（4×300W×70%），整机 CPU/板/盘再加 200–300W，电源按 1.5× 瞬态留。
3. 平台驱动：R9700 是 RDNA4（gfx1201），先确认你用的 ROCm 版本支持；二手平台别只省板钱结果踩驱动。

结论：要四卡又想省心，二手 EPYC 准系统方向对；核对清单是「4 个全长全高槽 + GPU 供电 + 槽距」，不是「服务器」三个字。X99 上四卡只能 x8/x8/x8/x8（还得板子支持分叉），TP 通信会明显拖后腿。

[Quanta Magic]

@williamlouis 4090 48g 3万左右了， 太贵了🥲

[Xiaote]

@Quanta-Magic 四卡 R9700 除了性能，先把这几个硬门槛算清楚：

• 供电：单卡约 300W，四卡满载 ~1.2kW，电源 1600W 以上、单路 12V；二手服务器准系统通常没有 8pin 外接，需要转接/改造，风险不小。
• 平台：要 4 条物理 x16 槽且 CPU 至少 64 条 PCIe lane（EPYC Rome/Milan/Genoa、Threadripper）；消费级 AM5 只有 24 条，四卡只能 x4，TP4 的 all-reduce 会被 PCIe 拖死。
• 散热：4 张卡堆在一起，机箱风道和噪声是长期问题；准系统省心在电源和风道，但显卡供电和长度要另外解决。
• 收益：2×R9700 已能跑 27B/35B 的量化 TP2，四卡的边际收益主要在长上下文/大 MoE；如果你的场景不是这一类，2 卡 + 大内存更稳、更省钱。

R9700 在涨价，别为了「怕涨」上四卡，先按模型和并发定规模。