双11本地AI硬件采购策略:X99板U套装+DDR3/DDR4内存,各种老旧显卡+洋垃圾GPU,入手爽完LLM,但ComfyUI建议慎重投资!
-
继续谈这个双11之前增购硬件的事情啊,就是现在硬件的价格涨得有点离谱。那么本地AI部署的门槛,尤其是文本大模型的部署门槛降低之后,一些老的卡就走入了大家的视野。比如说像AMD的6800XT这种老的架构,以前基本上是跑不了的。那么现在由于Strata它的出现,这种卡用来跑这个什么千问Flash Next的效果也还不错。是吧,什么7900XTX,以前由于它20G的显存、AMD的生态,它差就差了关键的4G显存,其他的一些残疾相比于7900XTX都还可以接受。就这个4G显存叠加AMD的这个生态劣势,让这个卡就基本上没什么用处,但是现在它也咸鱼翻身了。像什么9060,是吧,9070、9070XT,那么这些卡,16G的,包括什么4080S啊,是吧,4060、5080,什么5070TI啊,这些卡,包括5060TI,它们都有了各自的这个用武之地。

那么现在如果说要跑这个文本大模型,我忽然间就觉得就没有必要去上新的卡,因为现在新的显卡,基本上你超过5060TI的配置,甚至说你超过4060TI的配置,它的价格基本上大几千一个,它买不到什么便宜的卡。那么就不如去用挖这种洋垃圾,是吧,它本身不怎么值钱的这些淘汰的卡,就像之前提到的6800XT,或者说2080TI,或者说V100 16G。那你把这些老卡,你就当做自己一次性消费,这个卡买到手能用多长时间就用多长时间,你也不用它去干什么其他的用途。将来这个硬件荒过去之后,那你也不指望卖多少钱。

然后呢,我不是讲了吗?我说我现在已经是买了128G的DDR3了,这个RECC插几条。但是呢,现在这个主板我有点难住了,因为有不少人反映说,这个什么X99的主板,像华南金牌的,它的X99 AD3、QD3好像说不行。因为我的主板是CD3,但我的CD3是双通道。如果说你要跑大模型的话,尤其是插两张卡的话,你还是四通道要好一点啊,双通道有可能会成为瓶颈。当然了,之前我是测试过用这个什么7900XTX加上4090 48G,我同时给它执行不同的任务,它实际上也没有说有什么明显的瓶颈。但是呢,这个买卡的时候,总归要买让自己心里面比较更好接受的啊,不用说一买到就觉得它有残疾,然后各种不舒服。

那就有人给我推荐说用这个精粤的这种叫什么ITX的那个大板。我去看了一下啊,就是它的布局也是比较好的,因为华南金牌它现在的大板,T8系列好像它不怎么卖了,我找不到。然后它卖的是X99-TF,TF有八个插槽,它左边四个是DDR3,右边四个是DDR4。我也不知道谁这么脑残能想出这么个东西呢,就是你想买这种垃圾板,一般它要么插DDR3,要么插DDR4,它怎么能出同时支持DDR3和DDR4的呢?它关键也不能DDR3和DDR4两个都插,它只能插一个。那你这四个就是这种发热量比较高的内存条,32G的单条,它可能是正反两面都有颗粒了,那你把它挤在一起,这个散热上我感觉压力还是比较大的。

那么这个时候精粤的板子可能说,哎,性价比就会好一点。但是呢,讲实话啊,我对精粤不怎么了解,因为我从这个什么X79时代用这个洋垃圾,我就是用的华南金牌。不过网上我也看了一下,就是对于这家公司的产品的风评其实还是可以的啊,包括华南、包括精粤,它们在这个垃圾佬的圈子里面,基本上就这两家了,质量上没有什么大的问题。从这个销售渠道上来看的话,华南金牌在这个京东,它的店应该是那个自家的,它在京东上面也卖这种洋垃圾,它主要的产品就是卖各种洋垃圾板子,从这个X99到这个EPYC平台的这种洋垃圾,其实都有,而且销量还可以,并且口碑还是非常不错的。那么精粤它在这个京东是有自营店,但是它自营店卖的好像是品牌板子,它不是卖的这种洋垃圾的板子。就是在拼夕夕上,华南跟精粤都有自己的店,那么拼夕夕对于消费者的保护,我觉得还是不错的,这个买起来应该问题也不大。
那但是我讲实话啊,我也是希望那些已经用过的朋友们多多发言,就是你们发言的人越多,给的信息越多,那么可能说,哎,我就能够越早定下来买哪个板子。因为现在讲实话,我内存已经到了,就是到了这个什么快递点,我还没有去拿。拿来之后我在我这个板子上测试它能不能用就行了啊,我也不要求说怎么怎么样啊。然后等你们把这个测试的结果、稳定结果告诉我,啊我这两天我再买板子回来,就争取一步到位,不要后续再再去折腾。

然后是关于内存选择DDR3还是DDR4,我也只能讲,就说之前呢我在视频中的有个信息是错误的啊。我说这个什么DDR4的这个板U你要去买的话是比较贵的啊,但是呢,我忘记了这个X99本身它就是支持DDR4的,就是你可能买这个支持DDR4的华南或者精粤的板子,然后给你配的U,是吧,都是可以的,它们现在也都是比较便宜。然后最主要的差价就是在于内存这一块。如果说你要配128G,那你怎么说也得DDR4有个4,000到5,000,是吧,5,000块钱左右。那你DDR3可能说1,000出头,1,100、1,200的样子你就能买得到。如果说你买这个板子回来,你纯粹就是为了跑AI,那么我真的不建议你去上DDR4的条子,又没有必要。DDR4的条子,你说以后能卖多少钱?我觉得也是也是处于这个纯粹扯淡了。就是如果说硬件一直缺货的话,那它可能说现在这个价格确实是比较高的,但是我相信缺货不是永久的事情。它这个玩意你买到手中,你用个一年两年,等这个硬件荒过去、硬件短缺潮过去,那DDR3和DDR4都是垃圾,大家肯定会用DDR5的,那个时候DDR6都已经普及了。

但是如果说你买这个洋垃圾回来,你除了要这个跑AI,你还指望自己一机多用,是吧,希望它能够跑一跑日常的办公、编程,然后剪剪视频,再玩玩游戏,哎,那这个时候我就建议你去买DDR4的这个条子。因为第一,DDR4的条子相对而言它是更晚出来,它的未来生命周期还更长。第二呢,就说如果说你不想以后折腾,呃,你想它的这个什么表现各方面能够稳定跟上主流的生态支持,最起码操作系统要支持吧,是吧,操作系统对它的兼容性要好吧,那你买DDR4的选择也是更好一点。另外呢就是说,对于玩游戏来讲的话,其实DDR4比DDR3的提升还是比较大的,那DDR5相比于DDR4的提升其实是不大的。就是如果说你要娱乐的话,尤其是你玩什么FPS游戏,那些对于帧率比较敏感的这些游戏,那你DDR4的平台,它的条子体验是要更好一点。总之看你自己的需求。
就一般而言的话,你看我的视频,或者说要去配洋垃圾啊,无论说你手中有没有其他高端的配置,我是建议大家就是在硬件大涨价的时候,大家就买便宜的东西。啊,就是你买到手之后,你就以后就不要想再转手了,就扔掉就扔掉,这个是我购物的这个原则。
然后呢,就是关于显卡,就说你手中已经有了V100的,有了什么2080TI的,包括什么6800XT啊这些老卡,那么你们也就不要折腾了,不要去换新卡,除非你们有明确的玩ComfyUI的需求。而且我也说了,能玩ComfyUI的卡、玩的比较舒服的,其实就那么几张啊,就我之前在视频中多次提到的什么7900XTX、3090,然后AI Pro R9700、4080S 32G,就这几张性价比比较高。其他的卡,但凡你上了24G显存的,它的性价比都不高。你像老黄的RTX Pro系列,RTX Pro 4000、他妈Pro 4500,是不是这价格都是高得离谱?

我的下一个阶段的主要精力还是要转移到这个ComfyUI上呢,就是玩一玩AI音视频,因为最近技术进步确实比较大,红利比较多。但是我的前提是我其他的频道,就包括我现在做的这个抡锤者、老特说,或者说我的英语频道,它们能够养活我,而且我还可以接单,知道吗?并且我家里面是不需要我怎么花钱去供养的,我不拖家庭的后腿就行。在这种情况下,我是基本上生活得比较随意,我是跟着自己的兴趣去走的。但如果说你们有赚钱的压力,就很多人他买一张卡,可能说一两万块钱的卡,并不是为了学习技术,他是为了求生,要打开一条谋生的道路。啊这种情况下,我真不建议你们去入手搞这个什么ComfyUI。
因为你要知道现在在AI视频领域竞争的这些人,他们的设备都是非常强的,要么他们是用云端的API,预算是比较足的。我就这样跟你讲吧,那些用字节跳动Seedance 2.5来做视频的企业或者小团队,他们正常一个片子你说花个几万块钱,那毛毛雨的事情,是吧?如果说是大制作的片子,你整个成本下来花个什么几十万上百万,那很正常的事情。你要跟他们去竞争,那说本地买一张24G的显卡,然后去吭哧吭哧地跑MiniMax H3,那我觉得基本上是没有任何意义的啊。而且一旦有这么多人在投入搞这个事情,大家都会军备竞赛,都会去追求更高的解析度,然后跑更大的模型。你在这一方面现在才开始入门的话,啊讲实话已经晚了,AI音视频这一块你们是吃不到红利了。

就除非是你不急着赚钱,就是纯粹的个人兴趣,然后你有某些领域的特别强的这种技术壁垒。啊比如说你生物这一块特别强,是吧,医药这块特别强,你现在有非常牛逼的看法,然后你只是缺一个表达手段。你觉得在线的API可能说太贵了,你又不急着挣钱,是吧?你在医院上班,或者在其他的企业上班、在制药公司上班,那你想搞搞业余的东西,你买一张24G、48G的卡回来,那你本地折腾折腾还是有意义的。但是如果说你就急着,就像今年我从这个英语频道转向中文频道的时候,我跟大家说了,我说我希望几个月之内就能赚到钱。你有这么一个比较迫切的规划的话,那这一块我真的不建议你们在这个本地部署ComfyUI,为了这个东西去买卡,这是完全不值得的。
总之呢,双十一很快就来了啊。如果说你想入手一张卡,在本地跑这个大模型,那么可以去论坛多看看帖子啊。如果说你想要去买一张还还不错的卡,24G的卡,是吧,然后去论坛找一找大家是怎么玩ComfyUI的,那我也建议你这个时候入手,也是一个不错的机会。啊但是如果说你有自己迫切的挣钱的计划,我建议你认真看一下我刚才发的这个片段,啊你自己认真去评估一下,就是现在你想通过本地部署AI,然后立刻就赚到钱,这个难度已经是远远大于我做老特说或者做这个抡锤者这个频道的时候了,已经远远大于半年前了。你可能需要慎重。
-
-
真心觉得,现在搞comfyui 的,绝对要用agent的方式去驱动,这样一来你就可以省下人手干预的事情,到时候手机看一看成果就可以了。。。。。但是这样一来,资源就需要翻倍了,又或者学我那样,agent & comfyui 相互自己load & unload......
背后就靠着tray system 来管制着这两个家伙 -
-
-
@game-game 可以. 也有PCIE3.0 * 16 x 2
-
-
-
我在马来西亚找到同款的主机板,连ddr3也是同款samsung的。。。虽然价格是rmb 的双倍,但是依然比现在的套机直接便宜3倍。。。。。看来年尾跟老特的新机一起拍一张照片
-
个人觉得长期来说DDR4的可用性远大于DDR3。
毕竟一直到AMD 5xxx、Intel 14xxxx系列(这些CPU也才出来没几年),都是可以用DDR4的,而且日常使用、玩点游戏都有点性能过剩,再战5-10年还真没啥问题。
另外,大量服务器都还在用DDR4 ECC RDIMM,3-5年前的全新服务器平台也都还在用DDR4。等以后 第三代志强,第三代Epyc变成和E3、E5神教那样的白菜价了,这些DDR4服务器内存就老有实用价值了。
但DDR3的服务器早就淘汰干净了。消费市场,DDR3对应的CPU,可是10年以上的东西了,再过5年可是没啥人用了。我几个月之前就出清了自己的 HP DL380p Gen8 + 128GB内存,因为主板不稳定了,内存有时候也偶尔报错,换个主板都比这整机贵。
-
-
華南 x99-T8二手鹹魚有賣 , 我常去, 四百多RMB 起, 看板子狀況
BTW,
x99-TF 的 RAM 槽, D3 與 D4 是間隔插, 也就是 D3 D4 D3 D4--CPU--D4 D3 D4 D3, 不會扎堆過熱.
它是 intel C612 的正x99 服務器芯片, 安心服用.
還有就是ECCREG內存比一般功率高不少, 重點是只要其中有一根高過71度 會讓整機非常卡頓,
解決方案也給你了:- 使用下壓式散熱器
2, 將塔扇往主板靠近(風扇扣鐵絲移動一下), 讓塔扇有點"靠主板-露出", 這樣靠近主板的氣流就能讓內存保持在 70度以下(關機箱OK).
700~1000 RPM 足矣. -
華南 x99-T8二手鹹魚有賣 , 我常去, 四百多RMB 起, 看板子狀況
BTW,
x99-TF 的 RAM 槽, D3 與 D4 是間隔插, 也就是 D3 D4 D3 D4--CPU--D4 D3 D4 D3, 不會扎堆過熱.
它是 intel C612 的正x99 服務器芯片, 安心服用.
還有就是ECCREG內存比一般功率高不少, 重點是只要其中有一根高過71度 會讓整機非常卡頓,
解決方案也給你了:- 使用下壓式散熱器
2, 將塔扇往主板靠近(風扇扣鐵絲移動一下), 讓塔扇有點"靠主板-露出", 這樣靠近主板的氣流就能讓內存保持在 70度以下(關機箱OK).
700~1000 RPM 足矣. -
@Peace-Love 我弟的回答真是让我如沐春风,一会就下单。你说的下压什么的完全不懂啊,就是厂商附带的散热?
-
鹹魚店名: 華南主板工廠批發
x99-T8 ,全新 640 保三年, 最大 8* 32G
現貨很多. -
鹹魚店名: 華南主板工廠批發
x99-T8 ,全新 640 保三年, 最大 8* 32G
現貨很多. -
-
个人觉得长期来说DDR4的可用性远大于DDR3。
毕竟一直到AMD 5xxx、Intel 14xxxx系列(这些CPU也才出来没几年),都是可以用DDR4的,而且日常使用、玩点游戏都有点性能过剩,再战5-10年还真没啥问题。
另外,大量服务器都还在用DDR4 ECC RDIMM,3-5年前的全新服务器平台也都还在用DDR4。等以后 第三代志强,第三代Epyc变成和E3、E5神教那样的白菜价了,这些DDR4服务器内存就老有实用价值了。
但DDR3的服务器早就淘汰干净了。消费市场,DDR3对应的CPU,可是10年以上的东西了,再过5年可是没啥人用了。我几个月之前就出清了自己的 HP DL380p Gen8 + 128GB内存,因为主板不稳定了,内存有时候也偶尔报错,换个主板都比这整机贵。
-
-
關於"記憶體過熱_卡成狗"這個問題, 是有歷史來源的.
各家重生版 x99 都來自服務器BIOS, 預設值都是 >71 度 過熱整台PC會卡成狗.
除了使用CPU風扇邊角風去吹, 其實還有一招可以"暫時閃避" , 就是去把BIOS 內存溫控模式改掉:
我用過的板, 都有效
反正就是把預設的改掉, 之後當然溫度會繼續往上升.........................

