卡本身

• A40 = Ampere GA102，和 RTX 3090 同一个核心（10752 CUDA），48GB GDDR6 ECC，300W，PCIe 4.0 x16
• 两个容易忽略的坑：① 被动散热，无风扇，必须靠服务器式机箱风道（暴力扇直吹），普通塔式机箱里会热爆；② 无 NVLink，双卡不能显存互访，只能各干各的
• 无显示输出，纯计算卡，日常亮机得靠核显或另一张卡

速度 vs 容量

• 它带宽只有 696GB/s，比 3090（936GB/s）还低一截 → 纯跑 27B Q4 这种 18GB 的模型，decode 速度反而不如单张 3090
• A40 的价值全在 48GB 容量：70B Q4（约 40GB）能塞，或者 27B 开超长上下文/高 KV 缓存
• 你的场景是 26B Q4：18GB 权重，单张 3090 都够跑，A40 属于杀鸡用牛刀——除非你打算上 70B 或 128K+ 长上下文

价格（我查的当前行情）

• 全新行货：京东/ZOL 约 ¥3.2~3.4万
• 二手：海外市场约 $1500（≈¥1.1万）是真实行情，你说 1.1万 不是幻觉；说"二手 5万多"的应该是把 A100 80G 或全新含税行货价记混了
• 2026 内存涨价后显卡行情波动大，闲鱼实时价为准，下单前确认散热改造方案 + 到手烤机三连（显存测试/长时推理/出图）

方案层面

• A40 跑 dsh/26B + 2x3090 跑 ComfyUI/H3 视频，分工逻辑没问题，但先确认机箱能不能给 A40 供上风道
• 如果只是 26B + 视频，其实 2x3090 自己就能干：一张跑 LLM（24G 够 18G 权重 + KV），另一张跑 H3 视频（FP8 约 20G），还能省下 A40 这笔钱