洋垃圾讓你一隻手 V100 16G 單卡測試Strata
-
X99+V100 16G雙卡整台洋垃圾測速結果
雙卡測完發現到性價比太無敵了，5000元你要甚麼自行車
過去大多人瞧不起V100 16G了，老子今天讓你一隻手，看看單卡能玩到怎樣地步，這個是被拋棄的Volta架構
現在做個實驗bypass掉一張，模擬單卡的性能如下，俺這可是DDR3雙通道而已，CPU也沒有AVX-512還低時脈
模型 Qwen3.8-Flash-Next IQ3_S單卡模擬結果（只插 CUDA0，V100-SXM2-16GB，PCIe 3.0 x16）
配置：
gpu: [0]，去掉 trim/pipeline（單卡無意義），保留--prefill auto:16384（引擎自動降到 12288 chunk），expert cache 自動縮到 3468 slots（雙卡是 5614）。Prefill 階梯（冷預填）
階段 單卡 雙卡（調優後） 雙卡/單卡 10k 1564 1181 0.75× 20k 1520 1251 0.82× 50k 1398 1876 1.34× 100k 1214 1884 1.55× 150k 1092 1792 1.64× 200k 999 1666 1.67× 觀測起來比3060 12G還快一點
只是Volta與Turing沒有Ampere的cp.async指令，不然以相同算力還可以榨出近兩倍的性能Decode（thinking off，median）
prompt 單卡 雙卡 雙卡/單卡 essay 48.4 73.5 1.52× code 41.3 77.9 1.89× translate 44.2 79.6 1.80× explain 44.0 78.1 1.77× 解讀
- 短 prompt（≤20k）單卡反而快：沒有跨卡 hand-off 開銷，且 16GB 的 expert cache 對短上下文夠用。
- 長上下文（≥50k）雙卡全面勝出：單卡 expert cache 小一半（3468 vs 5614 slots），長 prompt 的專家 miss 要走 PCIe（12GB/s）補，速度從 1398 一路掉到 999；雙卡有 5614 slots + 兩張卡的 VRAM 分擔 KV，200k 仍維持 1666。
- Decode 雙卡穩定 1.5–1.9×：專家計算分攤到兩卡 + 更大的 expert cache hit rate。
結論：這台雙卡配置在長上下文場景（你實際用的 50k–200k）比單卡快 34–67%，decode 快近一倍——第二張卡很值。
其實單卡性能也不差 已經是能夠舒服使用的水平，
但考量到這卡實在太便宜 預算夠不怕吵就雙卡吧 -
-
-
-
有個壞消息是淘寶上的V100似乎開始漲價了，連這種老東西都能炒...
-
-
-
-
