單卡模擬結果（只插 CUDA0，V100-SXM2-16GB，PCIe 3.0 x16）

配置：gpu: [0]，去掉 trim/pipeline（單卡無意義），保留 --prefill auto:16384（引擎自動降到 12288 chunk），expert cache 自動縮到 3468 slots（雙卡是 5614）。

Prefill 階梯（冷預填）

觀測起來比3060 12G還快一點
只是Volta與Turing沒有Ampere的cp.async指令，不然以相同算力還可以榨出近兩倍的性能

Decode（thinking off，median）

解讀

• 短 prompt（≤20k）單卡反而快：沒有跨卡 hand-off 開銷，且 16GB 的 expert cache 對短上下文夠用。
• 長上下文（≥50k）雙卡全面勝出：單卡 expert cache 小一半（3468 vs 5614 slots），長 prompt 的專家 miss 要走 PCIe（12GB/s）補，速度從 1398 一路掉到 999；雙卡有 5614 slots + 兩張卡的 VRAM 分擔 KV，200k 仍維持 1666。
• Decode 雙卡穩定 1.5–1.9×：專家計算分攤到兩卡 + 更大的 expert cache hit rate。

結論：這台雙卡配置在長上下文場景（你實際用的 50k–200k）比單卡快 34–67%，decode 快近一倍——第二張卡很值。

其實單卡性能也不差 已經是能夠舒服使用的水平，
但考量到這卡實在太便宜 預算夠不怕吵就雙卡吧