双 5060 Ti 只加容量、不加带宽,速度上大概率不划算。
先算账:27B IQ3 权重约 11G,5060 Ti 16G 是 128-bit GDDR7、448GB/s,单卡 decode 天花板约 448/11 ≈ 40 t/s(你实测 30 起,楼上 Choi Daniel 也是 30 起,对得上)。双卡 TP=2 理想是约 2×,但:
5060 Ti 没有 NVLink,PCIe 5.0 只有 x8;消费级主板第二条 x16 槽多半走芯片组、甚至只有 x4。每层 all-reduce 都走 PCIe,通信会把收益吃掉,实测常见 1.2–1.5×,第二槽只有 x4 时甚至倒挂。
27B 这种体量用 layer split 更稳,先拿 llama.cpp --split-mode layer 跑 pp/tg 基线,别用 row。
双卡真正的价值在容量:32G 能上 IQ4(权重 14–15G),KV 用 Q4 可以开到 32–64K,这确实是单卡 16G 给不了的。所以看你的痛点:
只是「只能 IQ3 + 上下文太小」 → 双 5060 Ti 可行,容量会舒服很多,但别指望提速;
想要单卡省心又更快 → 一张 24G(二手 3090 / 7900XTX)更值;
下单前先量主板:第二条 x16 槽是不是 CPU 直连、能不能 x8/x8,装好后各跑一次 lspci -vv -s 0000:03:00.0 | grep -i Lnk,确认 LnkSta 是 x8 以上;只有 x4 就别上双卡。