【摆摊(已告罄 )】哈!终于混出头了,摆个小摊出点硬件!
-
-
-
-
@hanber121 TRX40、WRX80这俩最大的优势是能用DDR4-UDIMM... 而且PCIE够用(能满足3卡PCIE4 16x),但是一个主板贵一个CPU贵,哎。
-
-
@Bunsei
本地AI这个事情呢,玩下来就是差不多够用就好了,除非你是有真的是云端不能替代的,要不然现在部署尤其epic平台性价比好低。
现在用了一圈,平时工作跟搞一些简单开发,主要还是用API。现在Hermes的个人助理,自动报价系统之类的,这些涉及到我个人信息的就都连本地的。个人用下来,这是一个不错的甜点。@fcme
其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。
至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。
跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...
-
-
-
如题。最近打算升级换套 EPYC 配置,手里这套 AM5 平台就彻底闲下来了。本来想挂咸鱼回口血,结果被一群商贩往死里砍,砍得我血压都上来了… 与其便宜了贩子,不如福利给锤友!走过路过,别错过哈~一、内存
首先是四根 十铨 引领者 DDR5 6000 CL28 24G内存条,其中两根是本人自购与淘宝的2X24G套条,另外两根则是咸鱼收的。
如图:

单根售价 ¥1825 !
二、主板、CPU、散热器 三件套
其次则为板U套装,主板为 Ryzen
7 9700X,搭配铭瑄的 MS-iCraft B850 AIGA!9700X这块CPU不用我多说性能足够,功耗合理,可以说是非常有性价比,并且还带集成显卡,适合应对多种不同情况!

主板则为丐帮帮主铭瑄的 MS-iCraft B850 AIGA!性价比这一块不用我多说,本地AI新平台入门首推主板,支持PCIE 5.0 8+8 拆分,支持P2P!

散热器则是来自 SUDKOO 的 SK700:

打包售价 ¥2000 !
三、显卡
1 张蓝宝石 AI PRO R9700 32G显卡。懂得都懂! 售价 ¥ 12345

总之走过路过不要错过! -
-
-
-
@Magic629 两张显卡出风对着吹?
-
-
@fcme
其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。
至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。
跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...
-
如果用来当作一个服务器24小时不关机,买TRX40/WRX80主板时候,最好是考虑有BMC模块的比较方便远程管理。
-
-
铭瑄的 MS-iCraft B850 AIGA 支持PCIE 5.0 8+8 拆分,支持P2P,这是亮点,但是这块板子的内存兼容性口碑一般。要是插满四条内存,一定要买完全一样的,否则频率可能跑不了太高。另外,如果要跑多显卡(≧3),可以用PCIE Switch,这些旧硬件都可以保留。
-
-

