新手不要碰DGX Spark（重要事情说三遍）

[jenaflex]

@terry 老特带咱们入门，教学相长
感觉DGX Spark本意是给 开发者 用的试验平台，调试成功以后再无(痛)缝(苦)迁移到大显存的服务器。但是，其实DGX Spark的调试的坑可能比直接上服务器、或专业卡 还要坑。

[咫尺天涯]

确实，我看到有个视频老黄送了一台给马斯克，估计老马早扔一边去了🤭

[Jonathan]

老马没扔，送我了

[zhiqing]

刚想上手买一台...

[tomcatzh]

给大家一个有益的参考，闲鱼现在有不少八十到一百一天租 dgx spark 的，可以租来玩玩，看看 prefill 速度会不会把自己气死，最多也就亏一千几百

当然，想省租金可以先把测试脚本准备好

[suiyu]

我买了两台，虽然速度上没法让我满意，但是微调一些较大模型测试时还是很不错的。具体训练直接上服务器了，Jetson Thor我也买了一台，这个真的是个大坑。

[clear119]

DGX Spark 没玩过，Acer 的 GN100 玩过，老话讲没有垃圾的产品，只有垃圾的价格，说实话，这东西没那么糟糕，关键看你干什么，主要是这个价格实在是太离谱

[LeonZhao]

@suiyu Jetson Thor就嵌入式平台而言，应该对于 NVIDIA 特别重要，生态支持应该也会投入足够资源吧？为什么是个大坑？

[goodhat5405]

就买m5 max 128G 想moe 就moe。 想稠密就稠密，对文字用要求就122B的qwen，想跑Hermes就换成qwen 35B A3B，关键就拿在手上，还能办公。

[jenaflex]

@LeonZhao 去nv自己的community论坛 还有reddit看一下。
个人觉得，nv永远是服务大客户的，对爱好者和community基本不关心。
那么有大量的大客户用的东西（并且margin大的），才是nv会投下大量精力去迭代优化的东西。
嵌入式，还是在nv的portfolio太小了。

[kop wang]

@goodhat5405 目前的M5 Max的问题除了大模型的prefill性能比较低以外，还有就是目前的macbook pro的模具的解热能力已经有瓶颈了。
想爽玩还是得等mac studio。

[James Wei]

mac跑大模是处于一个很尴尬的位置，同样的价格买N卡比mac跑的舒服的多，同样的显存买395性价比甩mac几条街，mac跑comfyui又慢又难，还不如A卡

[goodhat5405]

能带着走这一条，就可以了，我这个14散热比16还要差。
但怎么说呢，就这水平，也是这个星球上最能打的14笔电了。

[jenaflex]

NV的APU N1X连同笔记本电脑发布了。我说的没错吧，这货和DGX Spark就是一个东西，是AI Max395的竞品，但被Arm Windows这个猪队友拖累了

[kop wang]

@jenaflex 给我的感觉像是Spark失败了之后，剩下的芯片必须得想办法卖出去的产品。

[Vivid Vector]

就DGX Spark虽说有128GB的统一内存，那可怜的273 GB/s的统一内存带宽，完全不值3万人民币以上的价格。
没有垃圾的产品，只有垃圾的价格，价格标个2万其实都还嫌它贵。
理想的情况是，带宽提升到800GB/s以上，其他无所谓。

[pofu lin]

好險有來看 差點衝動去買了 ....

[comeN]

不知道RTX Spark会如何，这种arm架构的不能自己改系统？

[benton yi]

当初预算6个，考虑过256G的m3ultra（3月还能买到），两台DGX Spark，最后买了pro6000。现在手里的pro6000能换3台Spark，果真没买spark是对的

[Tony Wang]

@benton-yi

赚大了, 现在 pro 6000 要 15 - 18 个