补充几点,跟 @stxpnet 上面的结论互补:
Layer Split 在你这套配置下基本没救:每个 token 的激活都要逐层过那条 3.6GB/s 的芯片组链路,等效带宽被最慢一环钳死,prefill 掉 78% 就是木桶效应。Helper + REO 的 82.5 t/s 已经是这套硬件的高点了,方向对了。
换 X570 + 5800X 不值:x8/x8(~16GB/s)确实能救 Layer Split,但 Helper 模式下 decode 的天花板是 CPU 内存带宽(DDR4 双通道 ~50GB/s),两者打平;同时你拿 13700K 的 prefill 单核优势换成 5800X,反而更弱。
别只把 5060Ti 当「第二段层」。它是 Blackwell、原生 NVFP4;4070TiS 是 Ada,没有。更划算的用法是当专用副卡:独立跑一个 NVFP4 量化模型 / 视觉 OCR·mmproj / 或当 MTP draft 卡,主卡专心 dense 推理。这些负载对芯片组 x4 不敏感,闲置就浪费了。
对比用端到端 wall-clock,别信 Strata 后台那个 PCIe 读数(瞬时虚高)。固定同 prompt、同 ctx、同 batch,单卡 vs Helper+REO 各跑几轮取中位。