【摆摊(已告罄 )】哈!终于混出头了,摆个小摊出点硬件!
-
-
-
@Magic629 两张显卡出风对着吹?
-
-
@fcme
其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。
至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。
跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...
-
如果用来当作一个服务器24小时不关机,买TRX40/WRX80主板时候,最好是考虑有BMC模块的比较方便远程管理。
-
-
铭瑄的 MS-iCraft B850 AIGA 支持PCIE 5.0 8+8 拆分,支持P2P,这是亮点,但是这块板子的内存兼容性口碑一般。要是插满四条内存,一定要买完全一样的,否则频率可能跑不了太高。另外,如果要跑多显卡(≧3),可以用PCIE Switch,这些旧硬件都可以保留。
-
-
-
@fcme
其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。
至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。
跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...
-
@Bunsei 我前几天也在纠结这俩,最后定了epyc主要是因为8×2DPC,内存价格就能便宜些。但是我感觉要是不图这点便宜,其实还是WRX80更好,频率差距很大,而且布局也更适合放机箱里。我这个只能用开放机架了。
@hanber121
同意+1而且有没有AVX512,还是只有AVX2,其实性能差异放大到整个平台里面个位数百分点,但是平台总价来考虑的话,WRX80+ 3945WX(够用且便宜)+8条32G 加起来就15K-16K左右,和TRX40、TRX90总价钱差异可以海里去了
