【双 R9700 折腾记】让 Radiance 跑起 MiniMax-H3 Rer2VA

[terry]

@Bunsei 那这门槛不低啊，3.016的板子多，4.616，还两个很少。

[Bunsei]

@terry 说:

@Bunsei 那这门槛不低啊，3.016的板子多，4.616，还两个很少。

epyc的那些老服务器主板~ 或者是老的县城撕裂者好像都行。 搞到四卡服务器了，还有一张重置卡，足够测试了。

[Bunsei]

租到了一台，开始测试一下。

[imbiplaza ASUS]

@terry

哭，我没有amd 显卡，我暂时得资源花在使用strata 帮我搞一些东西，等年尾我买多一架eypc 我再看看

[kop wang]

@terry 没看太懂，这东西和sglang一样能跑 minimax H3？

但是对于48GB显存而言，不管是comfyUI还是SGLang，H3都是能全放到VRAM中了，为何还用混合方案……

[Bunsei]

@imbiplaza-ASUS 嘿嘿，老哥不是，是我上面不是附加了一个素材包嘛，想看看在咱们的pro 5000 上生成的速度大概是多少。

[terry]

@kop-wang
@imbiplaza-asus

我弟人家让你们测试下自己的卡什么水平，他好对比他的双卡方案战斗力如何。不是让你们双卡，对比下而已。要差不多的话，那不是起飞了?

[Bunsei]

@kop-wang 主要是权重本身约 25 GiB，确实放得下。但全参考模式同时输入多张角色图、参考视频和音频，序列很长，1344×768 时中间计算数据还要约 29 GiB，合计约 54 GiB。这个任务即使在 48GB 卡上也放不下，同样要卸载或降分辨率。所以这个实际上就是能真正利用起两张卡的显存，而并非之前双卡那样一张跑vae一张跑采样。

[imbiplaza ASUS]

@Bunsei 够力我现在才看到原来有素材包，okie....我现在试一试

[Bunsei]

此主題已被删除！