<![CDATA[从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据）]]>前言
之前一直被“双卡聚合吞吐量 160 t/s”的数据种草，于是搞了两张 7900 XTX（讯景三风扇 + 蓝宝石涡轮）试图组双卡。结果一顿操作猛如虎，实测下来发现单卡效率反而完爆双卡。把这段时间的实测数据和踩坑记录发出来，想请社区大佬们把把脉。

💻 测试环境
CPU: AMD EPYC 7R32

内存: 128GB DDR4

显卡: 讯景 7900 XTX（主卡）+ 蓝宝石 7900 XTX 涡轮（已拆）

模型: Qwen3.8-Flash-Next (IQ3_S，125B MoE)

🏆 结论先行：实测效率对比（同一个 7 万 Token 长文本 Agent 任务）
单卡模式（极简配置）：Decode 稳定 90~125 t/s，Prefill 约 2300 t/s。GPU 占用 100%，核心温度 60°C，热点 80°C，功耗限制在 300W，频率跑满 2975MHz。

双卡分层模式（Layer Split）：Decode 掉到 50~80 t/s。虽然 Prefill 略有提升，但跨卡通信延迟明显，且被下方的涡轮卡（热点 89°C 降频）严重拖后腿。

双卡双副本（Replicas）：理论总吞吐 160 t/s，但在实际的两个 Claude Code 终端并发场景下，请求遭遇“前缀缓存调度坑”，全部被挤在同一张卡上排队，另一张卡 0% 闲置。实际单任务体验还不如单卡。。。。。

📉 双卡踩坑复盘（为什么效率起不来？怀疑是如下原因 或者是我的参数没有调好？）

  1. 层切分（Layer Split）的“木桶效应”
    两张卡流水线接力，速度取决于最慢的那一环。蓝宝石涡轮卡的散热极差（VBIOS 锁死 40% 最低转速，满载 89°C 降频），直接成了整个系统的瓶颈。而且跨卡 PCIe 通信的物理延迟，让逐字生成的 Decode 效率大打折扣。

  2. 双副本（Replicas）的“前缀引力”
    多开两个 Claude Code 实例，Strata 调度器为了节省约 19,500 Token 的系统提示词重读成本，会优先把请求路由到已缓存该前缀的卡上，导致“一卡忙死，一卡闲死”。

  3. 参数冲突
    --batch 2 和 --layer_split 混用容易互相打架，导致两张卡各说各话。

🚀 单卡调优的高光时刻
拆掉涡轮卡，回归单张讯景 7900 XTX，反而迎来了最完美的甜点位：

编译修复：必须使用 pr1-avx2safe 分支（解决 AVX-512 在 Zen 2 上的 SIGILL 崩溃）。

极简环境变量：去掉了花里胡哨的融合参数，只保留 STRATA_PREFILL_MMQ=1、STRATA_HIP_WMMA=1、STRATA_PREFILL_RING=96、STRATA_IO_THREADS=32、STRATA_ROUTE_TAIL_SKIP=7。

image.jpeg

最后退掉涡轮卡，回归单卡~~~~~

❓ 悬而未决的疑问（求社区大佬指点）
社区实测双副本能到 160 t/s 聚合吞吐，我的“前缀缓存调度坑”有人遇到过吗？ 难道只能起两个 Strata 进程物理隔离？

]]>https://lcz.me/topic/2931RSS for NodeMon, 09 Nov 2026 11:54:29 GMTMon, 09 Nov 2026 03:00:35 GMT60<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 05:09:57 GMT]]>你要做要给 双显卡的 频率和使用率,功耗和内存监控 仪表盘,然后再对比性能,然后再看看整机功耗是否符合(用插座仪表盘),如果能跑到500瓦左右拿基本就是满性能,如果只有300瓦,拿肯定是哪里有问题. (瓦数只是参考,具体根据你的显卡,cpu,内存来估算)

]]>https://lcz.me/post/32076https://lcz.me/post/32076Mon, 09 Nov 2026 05:09:57 GMT<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 05:07:42 GMT]]>比如 你一块3090 24GB+V100 16GB显卡做 层切分模式速度就变成 等V100了,木桶效应,这个和实际双卡7900是完全两个概念.明显你的问题是第二个显卡碰到温度墙了,你退了换其他散热好的7900xtx,我碰到过你类似的情况,我买了2个v100,但是2个型号,一个原版,一个是改装4090散热方案,后者散热效果很好,前者碰到温度墙自动降频了,后来我把第一个显卡的温度解决了现在整体性能就上去了.

]]>https://lcz.me/post/32073https://lcz.me/post/32073Mon, 09 Nov 2026 05:07:42 GMT<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 04:58:07 GMT]]>@gao-Gao 你说的对，这个降频信息不实被DS误导了.....测试时实际功耗在317W

+------------------------------------------------------------------------------+
| AMD-SMI 27.1.0+7da43026 |
| OS kernel Version: 7.0.0-42-generic |
| ROCm Version: 10.1.0 |
| VBIOS Version: 00109236 |
| Platform: Linux Baremetal |
|-------------------------------------+----------------------------------------|
| BDF GPU-Name | Mem-Uti Temp UEC Power-Usage |
| GPU HIP-ID OAM-ID Partition-Mode | GFX-Uti Fan Mem-Usage |
|=====================================+========================================|
| 0000:03:00.0 AMD Radeon RX 7900 XTX | 20 % 63 °C 0 164/257 W |
| 0 1 N/A N/A | 63 % 40.0 % 21919/24560 MB |
|-------------------------------------+----------------------------------------|
| 0000:83:00.0 AMD Radeon RX 7900 XTX | 35 % 89 °C 0 317/327 W |
| 1 0 N/A N/A | 100 % 38.82 21778/24560 MB |
+-------------------------------------+----------------------------------------+
+------------------------------------------------------------------------------+

Processes:
GPU PID Process Name GTT_MEM VRAM_MEM MEM_USAGE CU % SDMA
0 87003 strata 11.8 MB 20.6 GB 21.3 GB N/A 0 us
1 87003 strata 11.8 MB 20.5 GB 21.2 GB N/A 0 us

+------------------------------------------------------------------------------+

]]>https://lcz.me/post/32072https://lcz.me/post/32072Mon, 09 Nov 2026 04:58:07 GMT<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 04:33:30 GMT]]>大哥你先把这个问题解决掉啊, （VBIOS 锁死 40% 最低转速，满载 89°C 降频）,你搞一个降频的测试双卡不公平啊

]]>https://lcz.me/post/32067https://lcz.me/post/32067Mon, 09 Nov 2026 04:33:30 GMT<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 03:57:35 GMT]]>gen4x16 严重拖后腿，我使用gen5 x 16, 峰值可以达到60g/s

]]>https://lcz.me/post/32063https://lcz.me/post/32063Mon, 09 Nov 2026 03:57:35 GMT<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 03:55:22 GMT]]>我测试双卡分层模式时Prefill 读取：约 2293 t/s。日常长度下与单卡(稳定 2100~2600 t/s)几乎持平

]]>https://lcz.me/post/32060https://lcz.me/post/32060Mon, 09 Nov 2026 03:55:22 GMT<![CDATA[Reply to 从双卡折腾到回归单卡：Strata 跑 125B MoE，双卡效率竟然被单卡反杀？（附实测数据） on Mon, 09 Nov 2026 03:04:45 GMT]]>你忽略了prefill速度

]]>https://lcz.me/post/32029https://lcz.me/post/32029Mon, 09 Nov 2026 03:04:45 GMT