抡锤者

我感觉4090的核心要用完了

4台可以试试 GLM 5.3 - EXL3 @ 2.75 BPW 精度量化的模型，用新的TensorFold 推理框架，可以做到1m上下文 + 40tps（仅单流）或者100k上下文+100tps（C4聚合）。预填充似乎还有点慢，但相当可用了。社区还在优化，应该很快可以跑更快。然后社区有一个新的dgx spark 的系统，可以多从老黄那边弄2gb统一内存出来，增加上下文或者降低OOM的风险
@Sin-Yang-Wu

@Canhui-Li 要生视频尽量只考虑cuda生态，不然是你就是天天折腾工具而不是在创作

@terry 主要今年硬件价格过于夸张了，Mac 都成性价比的选择了

看上去是芯片供应的问题，m5 ulra 残血版 256g 还有提前发货的

@KAKAHermes 别相信这个6000D有 80% PRO 6000 的效能。实测就是一半多点（不然凭什么价格没涨起来）

@chrestkoo-dev dgx spark 不适合跑稠密模型，看看moe模型吧。单机器可以等等看社区会不会给出一个 qwen 3.8 next 的配方，目前pro 6000 单卡已经可以跑了

哪家限时免费/有羊毛用哪家呗，别对一个模型或者框架有忠诚度

@williamlouis 现在买的人想法是玩两年，白嫖算力，如果后期苹果拿不到足够的内存颗粒，没准还能加价卖

@terry tensor core m5这一代加入了。苹果还有一个问题是没有类似SGLang、vllm之类的框架，投机解码也没有英伟达那边那么好用

@Jake-Kwoh 配方可以关注这个仓库 https://github.com/0xSero/glm-5.3-flash-sglang-sm120

@Jake-Kwoh max-q 版本比另外俩都便宜1w+，性能损失10%-20%，放进一个机箱 1600w 单个电源就能带动，值得考虑

@terry 香港教育优惠 m5 ultra + 256g 人民币 58880 ，512g（如果不调整价格）差不多10w。性能保底能用和spark集群打平，之后生态起来了估计反超。缺点是 m5 设计的架构设计的太早了，精度还以 FP16/INT8 优化为主。估计要到 m7 才会给更实用的硬件原生 4-bit 张量优化

@terry 硬件底子很好，框架拉了，512G 如果跑 GLM 如果能优化到 60tps 就是值的

@kos-or 国内也说游戏显卡要减半 + 二次涨价

首发 pcie 6.0 ssd，带宽有30gb/s（和cx7网络速度相当），似乎可以买低配 + 用硬盘跑超大规模模型

@Jake-Kwoh 你做的视频分辨率是多少？DeepSeek 和Qwen 会有多少人用，并发希望做到多少tps？Minimax H3 和 LLM 的权重需要一起载入显存么？

@张光璞 pro5000在 deepseek 和 minimax 开源之后都涨了近2w

@kop-wang 是的， 不过现在spark还没怎么涨价，相对划算

今天做同一个任务，分别用两套硬件跑了一下：

任务内容：MiniMax H3 的视频生视频工作流（ ComfyUI）。相同同参——960×544 pass1 → 3D latent 2.0× + refine → 1920×1088，LoRA 0.3，12 steps。实测显存占用大约 ~67–69GB

硬件	结果
RTX PRO 6000（SM120，96GB）	90帧 ≈ 10.4 min；124帧 ≈ 17.9 min；158帧 ≈ 27.0 min
DGX Spark ×1（GB10，128GB 统一内存）	同工作流大约 3.2×–3.5× 更慢：90帧 ≈ 36.3 min；124帧 ≈ 61.1 min；158帧 ≈ 86 min

换算成吞吐：单台 Spark ≈ 一张 PRO 6000 的 29%–32%。差距挺明显的。

价格粗比（估算价格）

硬件	计价	容量	相对本帖吞吐
DGX Spark	3.4 万 / 台	128GB 统一	≈ PRO 的 30% / 台
RTX PRO 6000 max-q	15 万 / 整机	96GB GDDR7	100% 基线

粗算（只谈「能跑这条图」）：

• 1× PRO = 15 万 → 单条最快
• 1× Spark = 3.4 万 → 约 30% 速度；单价是 PRO 的 22.7%（3.4/15），比吞吐比例还便宜一点
• 4× Spark = 13.6 万 → 比一张 PRO 还少花 1.4 万，整批并行粗算约 1.2× 一张 PRO 串行产能

所以成本上：四台 Spark 打包 略便宜于 一张 PRO，换的是并行海选产能。单条要快回看， PRO 6000 仍然值。

用下来总体感受：

1. 单条速度：PRO 明显更快。 不是理论峰值，是总体任务墙钟。同样输入同样图，Spark 慢一倍以上很常见，今天对齐后更接近 慢到约 3.3 倍。
2. 四台 Spark 并行 约等于 一张 PRO 6000。 粗算 4 × 30% ≈ 1.2，整批产能才勉强略超一张 PRO 串行
3. Spark 的价值更像产能形态 + 大内存，不是单卡秒速。 多候选海选、能等 30–90 分钟/条、要统一内存容量时，四机并跑有用；改一版就要立刻回看，还是 PRO 更合适。
4. 功耗/温度也摸了一下。 负载时 Spark 单机大约 80–95 W，SoC 常到 90–95°C（看 SoC，不只看 GPU；本机温度墙约 104.8°C）。PRO 出片直接 顶满 300 W，GPU ~80°C。我们这边两两 3D 打印堆叠，前猫头鹰进气、后创客星系 Pro 120 排气：双负载堆叠能稳住 ~92°C。
5. 在 480p 工作流下， Spark 大概在 PRO 的 33%–46%。分辨率上去以后，差距被放大了。

有没有跑过 H3 / 同类视频工作流的 PRO 6000 vs Spark 对比？欢迎点评、讨论。