-
当初预算6个,考虑过256G的m3ultra(3月还能买到),两台DGX Spark,最后买了pro6000。现在手里的pro6000能换3台Spark,果真没买spark是对的


-
就DGX Spark虽说有128GB的统一内存,那可怜的273 GB/s的统一内存带宽,完全不值3万人民币以上的价格。
没有垃圾的产品,只有垃圾的价格,价格标个2万其实都还嫌它贵。
理想的情况是,带宽提升到800GB/s以上,其他无所谓。@Vivid-Vector 用的是DDR5+5070内核,192bit width, 速度上不去的。单显5070用的是DDR7
128GB DDR5要一千多刀吧,还有一千多刀的CX-7 Dual port,成本在那里的,便宜不了太多
-
TLDR:新手不要碰DGX Spark(GB10)
如果你没有大量经验的话,别碰!-
你就算错买了 AMD AI Max 395 128GB,大不了还能用来打游戏,当Proxmox server用。
-
你就算错买了 Mac Studio 128GB,还很保值,大不了还能卖掉。
DGX Spark的芯片SM121最初的设计是一个 游戏APU(N1X)和AI(GB10)两吃产品,并且跳票了超过一年多(出处:Moore' law is Dead. https://youtu.be/o8FL3nVDM5M?si=byA9yR5k0U8MTAI5)。
因为游戏APU是需要Windows for Arm的适配,而微软那个屎山Bug巨多无比。所以等不及了,只能先开卖DGX Spark。
SM121芯片和NV专业芯片设计有很多区别,导致生态和支持一直有问题,被NV官方论坛里的开发者诟病很多(自己Google一下就知道了)。
这么小众的产品(还是个半成品),你不能指望NV会让团队花很多精力去修正生态问题。
不差钱,就RTX 6000 Blackwell 96GB
至于同样$3500-4000预算,怎么花,见仁见智了。-
想玩120b moe大模型(非生产力),其实可以考虑Mac 128GB,玩腻了,保值卖掉。
-
生产力,就还是N卡,买你买得起,且用得到的。听老特建议就好
-
-
我有种暗黑的想法, 皮衣黄会不会生产显卡后,质检的时候顺便把显卡组装起来,拥有整个蓝星上的最强算力和最高智商的AI,然后利用这个AI来疯狂拿捏全地球80亿 人口。 不管你在哪个阶层,老黄都已经给你安排得明明白白。 以前那个中本聪其实也是他,游戏显卡的需求不够旺盛就搞挖矿,把全球显卡集中起来变成一个分布式AI,但实际的中心在他那里,他集合算力,并收集全球资讯,然后预测股市,从而在股市疯狂赚钱。(同时让游戏玩家,企业用户不容易买到显卡,显卡的价格依然坚挺)。
然后Transformer架构的横空出世,让老黄找到一个更强的风口,根据最强AI的预测,搞显卡和新AI比股市还能赚更多,所以挖矿都全部停了,搞了个AI的大局。Transformer这种畸形架构如果继续下去,人类自私的总想拥有算力,那对NV显卡的需求还能维持好多年。 -
@jenaflex 不同意楼主说的395的观点,每个人的需要不太一样吧,我有7900XTX、我有RTX 5060,我也用AI Max 395 128GB,用的挺好,挺合适。可能每个人的需求不同吧。