求助！！！请大神帮帮忙，看下这套四卡服务配置是否合理，能否最大发挥出性能？请大神们多提建议，小弟非常感谢！
-
主要用途：1.是用来做本地大模型训练推理，2.是用来做本地音视频生成
这个配置是否合理，确保生产力足够，性能是否可以发挥到最佳？
-
他是 64*4 , 肯定够了. 硬盘小了, 不过估计它后面有SAN.
挺豪华的, 不过加点儿钱, 换两张 Pro 6000 是不是更好, 有扩展空间, 性能还有保证, 毕竟 4090 48G 魔改, 我总觉得质量上会有隐患.
已经这么贵了, 肯定要保护投资. 建议直接上 Pro 6000 X2.
-
@Tony-Wang 感谢老哥的建议，其他部分配置适配度以及性价比方面您看还有优化空间吗？
没有了, 我也很久没碰过硬件了. 只是从投资保护的角度提出的.
另外, 你25G网卡 是为了连接 IP SAN吗? 还是要组集群?
我感觉你 1-2 个25G就够了, 连接你的 SAN. 4口有点儿浪费, 好像没有什么其他用途.
-
@Tony-Wang 感谢老哥的建议，其他部分配置适配度以及性价比方面您看还有优化空间吗？
另外, 我查了一下你的CPU和主板, 是支持8条独立的内存通道, 所以应该插满8条. 比如32GX8, 这样才能满血利用内存带宽.
-
@Tony-Wang 感谢老哥的建议，其他部分配置适配度以及性价比方面您看还有优化空间吗？
-
另外, 我看了一下这张 超微 H12SSL 的布局, 它确实有5个 pcie 4.0X16的槽位, 但1,2,3 槽位紧挨着, 意味着2槽不能用.
那你的25G 4口网卡插哪里? 它需要一个满 4.0X16的槽位, 只能用转接线吊装了.
而且, 4张涡轮卡紧挨着, 你的机箱风冷要确认一下, 是否足够强.
@Tony-Wang 好的了解，多谢您的指导，万分感谢！！
-
我是多卡小白, 最近看了一個Youtuber 的推薦 訂了一套 Gigabyte MC62-G40 (6 x PCIe4.0 x 16 lines @ 32 GB/s each) + AMD Threadripper 3945WX (12C/24T, 280W) , CPU的選擇我後悔了 只考慮到推論需求 沒考慮到代理人運用場景, 看未來是否需要改用 AMD Threadripper 3955WX (16C/32T, 280W)
@kos-or 好的，非常感谢！
