抡锤者

E5-2682V4处理器，
DDR4 2400T 32G2，
华南X99-CH8主板，
蓝宝石R9700 2（带宽 PCIE 3.016 + PCIE3.08）
TT 1000W电源。

单卡：
9B-Q8-262K上下文，速度 35tps，毕竟模型比较小，没有参考意义。
35B-A3B-Q8-262K，速度 14tps，显存不够，需要靠内存，所以速度很慢；
27B-Q8-128K上下文，没开最大上下文，速度 22-25tps；

双卡：
35B-A3B-Q8-262K，速度 72tps，提升很大；
作为对比：

• PRO5000 48G（3万5，我当初买的价格）+ DDR5 6000 64G，速度 90（上下文满）-140tps（上下文空）；
• PRO6000 96G（10万，我当初买的价格），速度 200tps+；

27-Q8-262K，速度20tps（变慢了），作为对比，PRO5000 48G ，速度 35-55 tps，PRO6000 ，速度 70tps；

方案一：
DDR5 6000 64G内存，
主板有PCIE拆分功能，拆分为 X8X8，然后使用 8654外接卡，外接2个显卡，每个显卡带宽都是 PCIE 4.0 *8；

方案二：
DDR4 2133 128G内存，
直接使用 X99主板，每个显卡都是 PCIE 3.0*8

两个方案对跑AI差距大吗？

准备搞双卡R9700，单卡跑27-Q8还可以，速度 22-25tps，不知道双卡如何，毕竟性价比太高了