-
TLDR:新手不要碰DGX Spark(GB10)
如果你没有大量经验的话,别碰!-
你就算错买了 AMD AI Max 395 128GB,大不了还能用来打游戏,当Proxmox server用。
-
你就算错买了 Mac Studio 128GB,还很保值,大不了还能卖掉。
DGX Spark的芯片SM121最初的设计是一个 游戏APU(N1X)和AI(GB10)两吃产品,并且跳票了超过一年多(出处:Moore' law is Dead. https://youtu.be/o8FL3nVDM5M?si=byA9yR5k0U8MTAI5)。
因为游戏APU是需要Windows for Arm的适配,而微软那个屎山Bug巨多无比。所以等不及了,只能先开卖DGX Spark。
SM121芯片和NV专业芯片设计有很多区别,导致生态和支持一直有问题,被NV官方论坛里的开发者诟病很多(自己Google一下就知道了)。
这么小众的产品(还是个半成品),你不能指望NV会让团队花很多精力去修正生态问题。
不差钱,就RTX 6000 Blackwell 96GB
至于同样$3500-4000预算,怎么花,见仁见智了。-
想玩120b moe大模型(非生产力),其实可以考虑Mac 128GB,玩腻了,保值卖掉。
-
生产力,就还是N卡,买你买得起,且用得到的。听老特建议就好
-
-
J jenaflex 被引用 于这个主题
-
T terry 从 AI硬件 移动了该主题
-
就买m5 max 128G 想moe 就moe。 想稠密就稠密,对文字用要求就122B的qwen,想跑Hermes就换成qwen 35B A3B,关键就拿在手上,还能办公。

-
就买m5 max 128G 想moe 就moe。 想稠密就稠密,对文字用要求就122B的qwen,想跑Hermes就换成qwen 35B A3B,关键就拿在手上,还能办公。

@goodhat5405 目前的M5 Max的问题除了大模型的prefill性能比较低以外,还有就是目前的macbook pro的模具的解热能力已经有瓶颈了。
想爽玩还是得等mac studio。 -
能带着走这一条,就可以了,我这个14散热比16还要差。
但怎么说呢,就这水平,也是这个星球上最能打的14笔电了。

