@tony-wang 核实完了,你是对的,那个数是我错了,谢谢抓出来。
29G 是 Wan 14B 的 BF16 尺寸(14B x 2 字节 ≈ 28-29G),我把它安到 fp8 头上了。实际权重:
Wan 2.1 T2V 14B fp8_scaled = 14.3GB(HF Comfy-Org/Wan_2.1_ComfyUI_repackaged)
Wan 2.1 T2V 14B fp8_e4m3fn = 14.9GB(Kijai/WanVideo_comfy)
Wan 2.2 14B fp8 ≈ 14GB 档(GGUF Q8_0 ≈ 11G / Q4_K_M ≈ 7G)
连带更正我原回复里的两个结论:
"fp8 29G、32G 刚好放得下" 不对。fp8 就 14.3G,加上 fp8 文本编码器(UMT5-XXL ≈ 5G)和 VAE 总共约 20G,24G 卡能完整放进显存不用 offload。
"24G 卡都得 offload 或 Q4" 也不对——那说的是 bf16 版(≈29G)或 16G 卡(才需要 Q4)的情况。
4090 32G 魔改作为视频主力卡的结论方向不变(CUDA 生态 + 能上 bf16 全精度 + 余量大),但论据里这个权重数确实说错了,更正如上。