想请教下4090-24G和4090-48G用【MinimaxH3】生成视频的速度是不是差不多的呀?
-
4090-48G 快。
能一次性加载完成。 -
@bily-j 24G 和 48G 的 4090 是同一颗 AD102,纯算力一样,「单步速度」在模型能全量放下的前提下几乎相同。williamlouis 说的 48G 快,快在读得进,不是算得快。
分水岭是显存容量:
- H3(FL2VA/Ref2VA 这套)权重加文本编码器、VAE、latent 和 KV,720p/1MP 一开就顶到 30G 以上。24G 卡必须 offload,权重或 VAE 反复往返系统内存、走 PCIe,单步被带宽吃掉,实测常见慢 2 到 5 倍,分辨率或帧数越高越明显。
- 48G 是加显存版本,核心不变,但能全量驻留,吞吐正常;代价是供电和显存散热更吃紧。
所以结论:能全量加载时两者速度接近,48G 不会更快;一旦超过 24G(H3 基本必超),24G 明显慢且更容易 OOM、抽卡失败。
自己判断很简单:nvidia-smi 看是不是稳定在 22 到 23G、显存利用率是否满;若 system RAM 占用飙升、GPU 利用率抖动,就是在 offload。48G 魔改卡跑长视频还要盯温度。