@老周 直接说结论：双 3080 20G 在「本地 LLM 推理」这个用途上划算，但有一个关键前提你得先搞清楚——两张卡不等于 40G 显存。

1. 显存不叠加
   3080 没有 NVLink（3090 才有），两张 20G 是「两个 20G」，不是一张 40G。想跑一个 40G 级的大模型，只能走 vLLM 张量并行（TP=2）：模型切两半分放两张卡，跨卡走 PCIe 通信，速度有损耗但能用。更常见的玩法是两张卡各跑各的——一张跑 LLM 服务，一张跑 ComfyUI/Wan/H3，互不干扰。这个组合对「视频 + 推理」混合用途反而更实用。

2. 你的平台是加分项
   X99（E5 v3/v4）+ 128G DDR3 跟这个方案很搭：DDR3 四通道带宽不高（约 50-68GB/s），但 128G 容量大，llama.cpp 可以把 32B/35B MoE 的权重全塞内存、显存只放激活层——穷人版大上下文，70B 级 Q4 也能靠重 offload 跑起来（慢，但能跑）。E5 有 40 条 PCIe，双卡 X16+X16 没问题。电源别省，两张 3080 满载 650-700W，加上 CPU 要 1000W+ 的金牌。

3. 魔改卡的风险
   20G 魔改 = 改 BIOS + 换显存颗粒，来源多是矿卡翻新：到手先烤机验显存（MATS 或 OCCT），散热是重灾区，显存温度超 90 度就得自己补垫。价格到位可以买，但要按「坏了认栽」的预算来。另外 3080 魔改 20G 二手流动性不如 3090，出二手时不好卖。

4. 和 7900xtx 怎么选

• 主跑本地 LLM（Qwen 27B/35B MoE、vLLM、SGLang）：双 3080 20G 赢——CUDA 生态零折腾，价格还便宜，显存总量还更大。
• 主跑 ComfyUI 视频（Wan、H3）+ 不想碰多卡：7900xtx 24G 单卡省心，但 ROCm 的坑（驱动、算子、跑不动的模型）你得有心理准备。
• 折中路线：预算够的话，单张 3090 24G 或两张 3090 是更「正统」的答案——有 NVLink 位、二手流通好、魔改风险低。

一句话：求稳选 XTX，求性价比 + LLM 选双 3080 20G，但别把它当一张 40G 卡用。

双3080 SG-Lang要求很好的主板和D5内存才能玩，如果不TP，它不如XTX，显存不能叠加就是废物。老实买XTX吧，或者多花钱上4080S 32G。

@terry 双 xtx 显存可以叠加吗？

@alan.lgv60 都可以叠加，效率不高，要么就要求很贵的主板，何必呢。

7900XTX 和3080 没有什么可以比性。三年在保和矿渣不是一个系列的东西。
我手里有一张 蓝宝石 今年6月出厂。需要的话可以便宜出给大家。5889入手的。需要的可以私信我。

准备跑啥模型呢？ 122B A10B?

幸好买的三年质保的，现在的模型跑起来，桌子都烤热了，和挖矿都没有区别。那一天显卡崩了还有官方托底。

幸好5200买了两张蓝宝石的全新卡，不错不错哈

我现在就是双3080，实测只能llm。又搞了两个2080+nvlink主机，整台主机=两张3080的价格。

3080没有nvlink，想达到2080的或者3090的速度必须pcie 4.0 x8/x8的主板，似乎起步就千元吧，没调研过。反正如果单纯llm服务器的话，性价比还行，但比不过2080

当然了双3090 24 llm和comfyui通吃

需要质保的话，用r9700，蓝宝石的 7900xtx 已经7600了，二手都要5500了

amd这么不好用吗，其实我还准备发了工资买两个r9700试一下那，现在线下拿货9300一张了

R9700 我的今天到货了。没折腾。有空了看看效果。分享一下。

行，大哥看你测试

@老周 先别急着卖卡，你这两条（太折腾 + 上下文短）其实是两个不同的问题：

1. "太折腾" —— 你踩的是 AMD 视频生态的坑：wan2.1 在 ROCm 上装环境（sage-attention、ck-attention 这些加速件都是 CUDA 优先）确实是地狱难度，用 Hermes/DeepSeek 代理操作也救不了，因为报错信息本身就是 ROCm 特有的。你的真实需求是"生视频"，那 CUDA 生态确实平滑得多。

2. "上下文最多 120K" —— 这是 24GB 显存的墙，不是 AMD 的锅：35B MoE Q4 权重占 ~20GB，剩 4GB 给 KV，Q4 KV 下也就 120K 左右。你换成 3090 24G / 4080S 24G 一样撞这堵墙。要真长上下文，只有两条路：加大显存（48G 魔改）或压缩 KV（--cache-type-k q5_0 --cache-type-v q4_1，实测能多撑不少）。

NVIDIA 推荐（除了 4080S）：

• 预算 1 万内：二手 3090 24G（约 5-6K）—— CUDA 全家桶，wan2.1 + ComfyUI 官方流程直接跑，27B LLM 也能带。你 X99 + 128G DDR3 的平台正好：显存放不下的大模型权重可以塞内存 CPU offload。
• 预算 1.5-2 万：4090D 24G 或 5080 16G（后者显存偏小，生视频勉强）。更值的是蹲一张 4090 48G 魔改，显存焦虑一次解决。
• 双卡方案：两张 3090（24G x2）走 vLLM TP 跑大模型 + 一张专门跑 ComfyUI；注意 3090 的 NVLink 不能叠加显存，TP 要走 PCIe。

另外一个建议：换卡后别再让代理全程代操作了。ComfyUI 在 NVIDIA 上有官方一键包 + 大量中文教程，环境问题少一个量级，自己装一遍反而比代理折腾更快，还能看懂报错。