4090 48G再成性价比之王?为什么RTX Pro5000 / 5090 32G 大涨价,它却成了价格洼地?缺乏NVPF4影响大吗?
-
论坛更新了一个新的版块,叫做装备秀。那么第一天就有十多个人在里面分享自己的装备。我看了一下,大家的装备水平真的是五花八门啊,非常高,就是平均水平都在我之上。这里面有什么三张5090的、什么8卡的、4090的,或者说两张RTX Pro 5000、两张Pro 6000的都有。还有什么苹果小主机、笔记本加上服务器,就一大堆,装备水平非常高。当然了,也有一些中低端的玩家,是吧,像我这样的,我什么4090 48G加上7900 XTX。也有一些朋友是两张7900 XTX,那么这样的分享案例都很多,大家可以到论坛去看一看。

我觉得这种交流讨论的气氛就很好,是吧?秀装备呢,某种程度上是为了放松心情,另外就是看一看大家实际对于硬件的掌握水平,是不是都在云?有些人经常在论坛发很多帖子,你也不知道他的帖子是经过实测,还是自己让AI整理的。很多时候我需要让AI来分辨,然后我自己又要投入时间去看这个东西,对于某些硬件的评论到底是否真实。那么看看你有没有秀过装备,其实就能够猜个一二。当然了,并不是所有没有在论坛分享自己装备的人都是纸上谈兵,因为你发的测试帖子质量怎么样,我是有分辨能力的。我基本上读一遍,我们的版主读一遍,就知道你是不是AI slop,猜个八九不离十吧,是吧?何况我们还有AI助手来帮助我们审核。

那么通过这几天我的了解,我总结一下这段时间我跟进的推荐装备。不同的时期是不同的啊,有的时候我是推荐7900 XTX,有的时候推荐4080S 32G,有的时候推荐RTX Pro 5000、6000,是吧?那么这段时间我给大家推荐的反而是4090 48G。原因很简单,特别是4090D 48G,它比4090 48G要便宜几千块钱,可能现在第三方两万五六千块钱,京东的话大概3万块钱左右,不到3万块钱你就能买到,然后京东自营给你保三年。为什么推荐这张卡?就是因为5090跟RTX Pro 5000都涨价太多了。
之前几个月之前,我那个时候不是已经买了4090D 48G嘛,然后RTX Pro 5000跟5090的价格,大概比京东自营的4090D 48G贵个五六千块钱。很多人就问我买什么卡,我都是明确告诉他们,你们要买RTX Pro 5000。我是因为买得早,我下单早、买得早,没赶上后面放量供应,没赶上京东大规模推这些卡。我当时还是建议你们买RTX Pro 5000。但是后来RTX Pro 5000确实涨得太多了,它涨了将近一倍,是吧?当时可能三万四五,现在要五六万块钱一张。这个5090也从三万四五涨到了五六万的价格。为什么4090 48G没有涨,然后这两张卡涨这么多呢?其实原因很简单,就是企业需求。

Blackwell架构的RTX Pro 5000跟5090,它们有NVFP4的支持。NVFP4你说重要不重要呢?它能够在某种场景下、某些大模型推理场景下非常重要。但是对于我们个人玩家来说,它这个提升并不值那么多钱;对于企业而言就非常值。因为企业的这种不同精度、混合精度,它是一个显卡池,不是单张显卡。它通过在不同GPU之间,甚至不同GPU机柜、集群之间进行调度,来发挥这些GPU在某些指令集上的优势。那么NVFP4,RTX Pro 5000跟5090散卡级它们都有。中国有很多企业最近不是流传说走私美国的5090,导致美国政府都开始查这个事情吗?这些5090买到手之后,就直接把它们改造成水冷机型,什么8卡、16卡放到一个服务器上。RTX Pro 5000其实也是一样的。

除了4090不支持NVFP4之外,4090 48G本身是魔改卡,这也是很重要的一点。4090新的芯片早就卖完了,现在所谓新的4090 48G这种涡轮卡,都是旧的4090芯片拆下来,重新打板、重新贴片,这些小厂做的,有些最高也就是二线品牌代工厂的水平。它跟一线大厂、英伟达原厂卡之间的工艺差距非常明显。你要知道这些企业不差钱,他们最怕的就是出问题,然后整个机柜停下来。一个服务器停下来,你维修一张卡,这个服务器8卡、16卡都得停下来,是吧?你一个节点就报废了,这个成本相当高。他们不愿意为了这么一点蝇头小利、硬件上的差价去冒这种潜在风险。像4090 48G魔改卡,在我们个人玩家手中,按照我们的使用强度,就是天天给它满载,你这种工作强度跟机房里7×24小时不断满载还是有差距的。我们可能一天满载也就是跑五六个小时、七八个小时,了不起了,是吧?人家可是长期在那里跑,7×24小时不停地跑。

那么关于它的两个弱点,我认为反倒是它的优点。因为不支持NVFP4,确实在跑某些大模型、某些量化尺寸的时候,速度上是吃点亏的。但是我们个人在本地用,说白了,4090 48G还是比5090 32G更好。它跑大模型的时候,有SGLang,跑AWQ的千问3.8 27B,然后所有的数据交换都发生在显存内部,它可以多开、长上下文多开,甚至都不需要HiCache,当然也支持HiCache,它的体验要比5090更好。
因为5090有32G显存,在跑SGLang的时候就注定了多开不如4090 48G。如果跑ComfyUI,那显存的作用肯定要比算力更强。你跑MiniMax H3,如果跑720P,或者跑LTX、Wan这种大模型,5090 32G显存是不够的。一旦溢出显存,用内存作为显存缓存,那么算力再强都没屌用。至于NVFP4在ComfyUI领域有没有用?有用,但是微乎其微,没什么大用处。在我们个人场景中,所谓NVFP4就是模型权重的量化。你没有NVFP4,现在有MXFP4、有INT4,这种量化相比NVFP4,在精度上的损失微乎其微,基本上在个人单卡场景中可以等效。速度上那么一点差距,讲实话,在个人场景、本地开个两三个会话的场景中,基本上可以忽略不计。这个对企业才有用,对企业多卡集群的作用远远大于本地。这个东西是有价值的,但是在企业场景中可能值超出一倍的价格,在个人场景中完全不值,可能只值10%的溢价。
那么在这种情况下,4090 48G处于什么样的地位?就是企业看不上,然后低端玩家够不着。你这种中端玩家,因为它毕竟好几万一张嘛,我可以说我频道95%的观众还是不会买这种卡的,他们会买更便宜的卡。那么4090 48G就会成为价格洼地。但是也不是所有公司的4090 48G都值得你去购买。因为第一,4090 48G是最早被炒作起来的魔改卡,基本上已经被各个中小企业、各个高端玩家抢购一空,现在还处于它们服务器的壮年,导致市场上的存量不足、供应不足。第二,现在市场上还剩下来的卡,很多是第一批用户用完之后发现不行而退货的卡。有些卡就是第一批用户,像我买得比较早的4090 48G或者4090D 48G,它们坏掉返修的产品。好的卡已经基本上卖完了。现在新用户进来,京东也好,其他第三方厂家也好,发给你的基本上都是返修品。

我在上一个视频中,因为有的时候会发小头像、OBS录屏的视频,大家可以去看一下。你从背板那几个螺丝都不一样,甚至有一个已经上锈,你就可以知道,连京东这样大的品牌商,发给你的这个卡出厂的时候都是二手的,甚至是修过的卡。为什么叫“二手东”?哼,它不是因为京东有个什么拍拍二手,而是因为京东经常干这样的事,它卖给新客户的卡很多就是返修的。或者其他硬件很正常,然后你出问题了,它可能会给你补一张质量更好的卡。
我就是这样的情况,我的卡坏了之后,一个月左右吧,然后两三天的时间京东就把新卡发给我了。这个新卡到目前为止体验还是相当好,但是我现在已经过了半年,就不能再换新了,再换只能去修了。不过这张卡到现在工作非常不错,在Linux底下我高强度7×24小时工作,测了大概三四天,它没有什么问题。然后在Windows上我不跑大模型、就是玩游戏的话,它的噪音其实很小,跟CPU风扇的噪音、跟电源有时候会有异响的噪音差不多。总之这张卡到目前为止使用体验还是很好,生产力相当足。4090的生态还是非常好,现在处于生态的壮年、黄金期。现在像3090,它生态的红利都非常好,何况是4090呢?

那么我们看算力危机,我认为往最长、最坏的情况去想,三年之内也会结束。因为按照老黄现在发卡的速度,我在“老特说”的频道中已经讲过,Rubin架构整个机柜的效能综合起来,包括Vera CPU、Rubin GPU,跟Groq这种推理LPU,单机柜效能是上一代Blackwell架构的30倍,那可能是Hopper架构,也就是H100、H200的60倍、100倍。这还是在两年左右,甚至不到两年的时间发生的,大家可以想一想进步速度有多快。三年之后,不说老黄依然能拿出几十倍的效能提升,但三年之后的新卡一定会让现在安培架构的A100、Hopper架构的H100、H200沦为切切实实的工业垃圾。这个卡的量太大了,跟之前的老卡、老计算卡,像2080Ti、V100这种规模完全不一样。因为从安培架构开始,它就是AI原生时代的卡,那个时代的卡产量非常大。在美国大企业从数据中心把它们淘汰之后,这些卡要谁来接盘?

中国这边的AI芯片也在大量生产了,像华为的950、960系列,它的量你看卖给DeepSeek,一次都买16万个;跟字节跳动、阿里巴巴、腾讯签的合同,那都是几十万片啊。还有寒武纪、壁仞、沐曦、摩尔线程这一大堆企业,都在不断往市场上放卡。到那个时候,我们现在用的所有本地卡,包括RTX Pro 5000、4090 48G、4080S 32G、5090这些卡,其实在大显存的A100、H100、H200面前,基本上都是垃圾。所以我们只是要买一张卡,让它在未来三年保持在生态的核心舒适区,不会被边缘化、不会被淘汰,同时显存比较大,能跑大模型、能跑ComfyUI、能驱动agent、能画图、能生成音视频。
当然了,如果你买24G的7900 XTX、3090,也能用;如果买32G的4080S 32G或者AI Pro R9700,它们也能玩。但是4090确实是我认为当下性价比非常高的一张卡,因为其他的卡都涨起来了,像AI Pro R9700、4080S 32G都涨起来了,唯一没涨的就是4090。以上只是这段时间行情的总结,可能再过两个月,我给大家推荐的硬件又不同了。那么大家有什么意见想交流讨论,欢迎在评论区留言,也欢迎到论坛发帖交流讨论。
-