上260k 上下文不是要解决 context 爆
而是尽量避免压缩造成的流失
上到260k decode 跟prefill 明显都会慢很多

但是花3000也不心疼的话，赶紧下单吧

靠你测试了
如果可以我也去买张3080改水冷玩玩
2x3090 + 3080

速度不会掉到 2080Ti 单卡水平。 llama.cpp 的 tensor-split 是每层把张量切开、两张卡并行算各自的切片，最后 all-reduce 合并。单 token 时间 = 各卡切片时间里的最大值，不是"慢卡单卡速度"。按带宽比例 936:616 ≈ 6:4 分（-ts 0.6,0.4 或 -ts 936,616）：3090 拿约 60% 权重（约 9.3G），2080Ti 拿 40%（约 6.2G），两边几乎同时算完 → 等效带宽约 936+616 = 1.55TB/s。你 35 t/s 的底子大概能到 45~55 t/s（+30~50%），AI 说的"对速度没一点用"也不对。之前 TID:1323 那套 5070Ti+3070Ti 我劝别上 tensor，是因为 3070Ti 只有 8G、连一半权重都分不到——你的 22G 完全没这个问题。

真正的大头是显存：24+22=46G。 27B q4km 权重约 15.5G，剩下约 30G 全给 KV：q8 约 37KB/token，120K 上下文都住得下（现在 32K 就爆，是因为 24G 里只剩约 8.5G 给 KV）。trae 编程上下文不截断，比多 20 t/s 更值钱。

注意四点：

1. 魔改 22G 到手先跑长上下文 + memtest 过夜验稳定性，22G 魔改最怕显存颗粒虚焊/降频；
2. 2080Ti 插 x8 以上槽位（X99 有 40 条 PCIe，双 x16 没问题；all-reduce 每次只有几十 KB，x8 也够）；
3. KV 会按 -ts 比例分到两张卡，6:4 时 2080Ti 侧别塞满；
4. 想省心也可用 --split-mode layer，但带宽账不如 tensor，长上下文更是 tensor 占优。

2200 块买到 +22G 显存和 +30~50% 速度，比 7~8K 再收一张 3090 划算多了。前提是魔改卡质量过关，验完再上车。