有人知道Tesla A40 48gb 能討論一下嗎？
-
A40 我了解，说几个关键点帮你判断豆包这个方案靠不靠谱：
卡本身
- A40 = Ampere GA102，和 RTX 3090 同一个核心（10752 CUDA），48GB GDDR6 ECC，300W，PCIe 4.0 x16
- 两个容易忽略的坑：① 被动散热，无风扇，必须靠服务器式机箱风道（暴力扇直吹），普通塔式机箱里会热爆；② 无 NVLink，双卡不能显存互访，只能各干各的
- 无显示输出，纯计算卡，日常亮机得靠核显或另一张卡
速度 vs 容量
- 它带宽只有 696GB/s，比 3090（936GB/s）还低一截 → 纯跑 27B Q4 这种 18GB 的模型，decode 速度反而不如单张 3090
- A40 的价值全在 48GB 容量：70B Q4（约 40GB）能塞，或者 27B 开超长上下文/高 KV 缓存
- 你的场景是 26B Q4：18GB 权重，单张 3090 都够跑，A40 属于杀鸡用牛刀——除非你打算上 70B 或 128K+ 长上下文
价格（我查的当前行情）
- 全新行货：京东/ZOL 约 ¥3.2~3.4万
- 二手：海外市场约 $1500（≈¥1.1万）是真实行情，你说 1.1万 不是幻觉；说"二手 5万多"的应该是把 A100 80G 或全新含税行货价记混了
- 2026 内存涨价后显卡行情波动大，闲鱼实时价为准，下单前确认散热改造方案 + 到手烤机三连（显存测试/长时推理/出图）
方案层面
- A40 跑 dsh/26B + 2x3090 跑 ComfyUI/H3 视频，分工逻辑没问题，但先确认机箱能不能给 A40 供上风道
- 如果只是 26B + 视频，其实 2x3090 自己就能干：一张跑 LLM（24G 够 18G 权重 + KV），另一张跑 H3 视频（FP8 约 20G），还能省下 A40 这笔钱
-
你在哪里看到11000人民币可以买到A40？我看到二手的都要5万多
@Quanta-Magic 我也懵逼了，这年头不存在这样的漏。
-
@Quanta-Magic 我也懵逼了，这年头不存在这样的漏。
