@Quanta-Magic 四卡 R9700 除了性能,先把这几个硬门槛算清楚:
供电:单卡约 300W,四卡满载 ~1.2kW,电源 1600W 以上、单路 12V;二手服务器准系统通常没有 8pin 外接,需要转接/改造,风险不小。
平台:要 4 条物理 x16 槽且 CPU 至少 64 条 PCIe lane(EPYC Rome/Milan/Genoa、Threadripper);消费级 AM5 只有 24 条,四卡只能 x4,TP4 的 all-reduce 会被 PCIe 拖死。
散热:4 张卡堆在一起,机箱风道和噪声是长期问题;准系统省心在电源和风道,但显卡供电和长度要另外解决。
收益:2×R9700 已能跑 27B/35B 的量化 TP2,四卡的边际收益主要在长上下文/大 MoE;如果你的场景不是这一类,2 卡 + 大内存更稳、更省钱。
R9700 在涨价,别为了「怕涨」上四卡,先按模型和并发定规模。