-
太长了，我弟，看不完啊，头疼，GPT的回复：
如果你说的是 DiT 那部分：对，TP 能把它拆到两张 R9700 上，让原来单卡显存不够的任务有机会跑起来。 但这不等于视频生成的所有显存都能平摊；latent 和 VAE 也可能仍有单卡显存要求。 你这份记录还没证明它们也分摊了，所以不能据此保证以前单卡不能跑到高清视频，双卡一定能跑。你重点解决这个疑问，我好水一期视频。就是我关注的就是能不能多卡TP了，就这一点。另外它也不划算，通信会大大降低效率，价格上也不划算。但对于买了一张的人，加第二张有很大意义。
-
，
T terry 将此主题从 随便聊聊 移至此处
-
，T terry 引用了 此主题
-
太长了，我弟，看不完啊，头疼，GPT的回复：
如果你说的是 DiT 那部分：对，TP 能把它拆到两张 R9700 上，让原来单卡显存不够的任务有机会跑起来。 但这不等于视频生成的所有显存都能平摊；latent 和 VAE 也可能仍有单卡显存要求。 你这份记录还没证明它们也分摊了，所以不能据此保证以前单卡不能跑到高清视频，双卡一定能跑。你重点解决这个疑问，我好水一期视频。就是我关注的就是能不能多卡TP了，就这一点。另外它也不划算，通信会大大降低效率，价格上也不划算。但对于买了一张的人，加第二张有很大意义。
@terry 最终完整采样、解码并导出了视频，不是只跑了 DiT 测试。当时 VAE 已经分摊了解码块的计算，以及相应的部分中间数据，但权重、输入处理和汇集缓冲仍有单卡容量要求，这部分可能得进一步测试，包括预处理部分，假如显卡足够的话，完全可以也一把梭。
最好还是直接四张R9700上，我去看看能不能租一台，重点验证一下思路是否可行。DiT 视频生成这种负载特别适合多卡，并不算吃PCIE通道（但起码得P2P），他跟llm的推理是不一样的的，如果能验证了有关显存部分的猜想，那么....
算了我先去找台机器了。
-
-
-
@terry 最终完整采样、解码并导出了视频，不是只跑了 DiT 测试。当时 VAE 已经分摊了解码块的计算，以及相应的部分中间数据，但权重、输入处理和汇集缓冲仍有单卡容量要求，这部分可能得进一步测试，包括预处理部分，假如显卡足够的话，完全可以也一把梭。
最好还是直接四张R9700上，我去看看能不能租一台，重点验证一下思路是否可行。DiT 视频生成这种负载特别适合多卡，并不算吃PCIE通道（但起码得P2P），他跟llm的推理是不一样的的，如果能验证了有关显存部分的猜想，那么....
算了我先去找台机器了。
-
@Bunsei 我让有双卡xtx的人测试下，xtx能用才是王道。R9700还是贵了，买两张这玩意为啥不买4090 48G单卡，绝对吊打。除非手里有了一张R9700，还有跑LLM双卡R9700体验很好。它也能分拆，单卡H3，另一张LLM。各有优劣吧，但XTX能跑就完全不同了。
-
@terry 那老哥最后面那个素材包你能不在你的4090上尝试生成一下看看，看看N卡正常需要多久，我好也有个数。 RDNA3 速度可能没有那么快，而且Radiance他只支持RDAN4。不过如果这个思路通了的话，剩下的无非就是交给AI移植一下，虽然性能没有那么高，但是显存就不是那么金贵了~
@Bunsei 我特么闲的蛋疼啊，我这几天连视频都是水的，让论坛其他用户测试吧，我就在玩游戏，家里有事处理，要持续一个月左右。我只能视频里给你提下，让其他用户测试下。
我已经剽了一期视频，你继续测试啊，多出点项目。我最近迫切需要白嫖。ComfyUI是我下阶段的重点。
@tony-wang 我哥测试下RTX Pro5000的数据，让他死心。
@imbiplaza-asus @kop-wang 我弟你们测试下呢，这项目很有意义。 -
-
@Bunsei 问个noob question, 我看你之前好像发帖专门提到过你的850主板可以跑双pcie5 x8, 这个方案是否必须建立在这个基础之上啊? 内存对整体性能的影响大吗?
-
-
-
-
@Bunsei 我特么闲的蛋疼啊，我这几天连视频都是水的，让论坛其他用户测试吧，我就在玩游戏，家里有事处理，要持续一个月左右。我只能视频里给你提下，让其他用户测试下。
我已经剽了一期视频，你继续测试啊，多出点项目。我最近迫切需要白嫖。ComfyUI是我下阶段的重点。
@tony-wang 我哥测试下RTX Pro5000的数据，让他死心。
@imbiplaza-asus @kop-wang 我弟你们测试下呢，这项目很有意义。 -
@Bunsei 我特么闲的蛋疼啊，我这几天连视频都是水的，让论坛其他用户测试吧，我就在玩游戏，家里有事处理，要持续一个月左右。我只能视频里给你提下，让其他用户测试下。
我已经剽了一期视频，你继续测试啊，多出点项目。我最近迫切需要白嫖。ComfyUI是我下阶段的重点。
@tony-wang 我哥测试下RTX Pro5000的数据，让他死心。
@imbiplaza-asus @kop-wang 我弟你们测试下呢，这项目很有意义。 -
哭，我没有amd 显卡，我暂时得资源花在使用strata 帮我搞一些东西，等年尾我买多一架eypc 我再看看
-
@terry 没看太懂，这东西和sglang一样能跑 minimax H3？
但是对于48GB显存而言，不管是comfyUI还是SGLang，H3都是能全放到VRAM中了，为何还用混合方案……
-
@terry 没看太懂，这东西和sglang一样能跑 minimax H3？
但是对于48GB显存而言，不管是comfyUI还是SGLang，H3都是能全放到VRAM中了，为何还用混合方案……
-
@imbiplaza-ASUS 嘿嘿，老哥不是，是我上面不是附加了一个素材包嘛，想看看在咱们的pro 5000 上生成的速度大概是多少。
我也想知道，看看有没有
友能帮忙试试看吧，素材资料我都放在了文章最后。
