【摆摊(已告罄 )】哈!终于混出头了,摆个小摊出点硬件!
-
主板满插内存需要降频使用吧?你这个降多少?
-
主板满插内存需要降频使用吧?你这个降多少?
-
-
-
@hanber121 RX9070XT 的计算能力完全等价于R9700 ,只不过显存只有16G~
-
-
-
@Bunsei 我前几天也在纠结这俩,最后定了epyc主要是因为8×2DPC,内存价格就能便宜些。但是我感觉要是不图这点便宜,其实还是WRX80更好,频率差距很大,而且布局也更适合放机箱里。我这个只能用开放机架了。
-
-
@Bunsei 但是功耗也两倍...
-
-
-
收r9700 月底可以去一趟大陸面交
-
-
-
-
@hanber121 TRX40、WRX80这俩最大的优势是能用DDR4-UDIMM... 而且PCIE够用(能满足3卡PCIE4 16x),但是一个主板贵一个CPU贵,哎。
-
-
@Bunsei
本地AI这个事情呢,玩下来就是差不多够用就好了,除非你是有真的是云端不能替代的,要不然现在部署尤其epic平台性价比好低。
现在用了一圈,平时工作跟搞一些简单开发,主要还是用API。现在Hermes的个人助理,自动报价系统之类的,这些涉及到我个人信息的就都连本地的。个人用下来,这是一个不错的甜点。@fcme
其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。
至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。
跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...
-
私聊了解更多! 不过老哥你是在日本吧,这个寄过去可蛮麻烦的~
