MiniMax H3 在 RTX PRO 6000 上的生成速度测试
-
这是测试Radiance双卡TP优化时候租的一台对照的服务器,1小时还蛮贵的,就顺手做了一个测试~,机会难得,有没有锤友对自己的配置有信心想跟PRO 6000 肘击下!

测试结果
任务及轮次 输出分辨率 帧数与时长 总耗时 秒 采样 秒 每步 秒 视频解码 秒 文生视频 r1 1344×768 362 / 15.083 秒 1137.492 1097.924 54.896 17.754 文生视频 r2 1344×768 362 / 15.083 秒 1119.251 1096.795 54.840 14.858 单图生视频 r1 1024×1024 362 / 15.083 秒 1187.226 1162.619 58.131 13.925 单图生视频 r2 1024×1024 362 / 15.083 秒 1183.711 1163.307 58.165 13.957 全参考 r1 1344×768 226 / 9.417 秒 1873.828 1812.426 90.621 9.187 全参考 r2 1344×768 226 / 9.417 秒 1829.640 1815.218 90.761 9.206 分阶段耗时
任务及轮次 条件编码含参考 VAE 秒 音频解码 秒 保存 秒 采样内 Attention 秒 采样内 MLP 秒 文生视频 r1 13.433 0.640 6.358 958.991 70.719 文生视频 r2 缓存复用 0.148 6.828 960.267 70.825 单图生视频 r1 4.106 0.156 5.709 1021.292 73.264 单图生视频 r2 缓存复用 0.152 5.683 1021.969 73.275 全参考 r1 43.159 0.143 4.485 1631.393 91.868 全参考 r2 缓存复用 0.115 4.540 1635.360 92.175 首次条件编码的内部耗时如下,均为 CUDA 流经过时间。
任务 Qwen 条件编码 秒 图像 VAE 秒 视频 VAE 秒 音频 VAE 秒 文生视频 13.419 0.000 0.000 0.000 单图生视频 3.291 0.776 0.000 0.000 全参考 22.759 0.966 13.768 0.647 条件编码包含其内部的 Qwen 编码、参考 VAE 和相关模型加载。Attention 与 MLP 的 CUDA 计时包含在采样中,不能再次与采样相加。CUDA 事件记录流上经过的时间,可能包含主机提交间隙,并非独占 GPU 活跃周期。
第一项正式生成前重启了 ComfyUI 进程;操作系统文件缓存与预检产生的内核缓存已经预热。后续任务会复用已加载模型,因此这些总耗时不能解释成每个任务均从系统冷启动。
显存 内存与能耗
任务及轮次 设备显存峰值 GiB ComfyUI 进程 RSS 峰值 GiB 容器内存峰值 GiB GPU 板卡能耗 Wh 文生视频 r1 45.302 45.854 52.791 185.383 文生视频 r2 48.069 45.976 52.933 185.065 单图生视频 r1 49.856 47.546 54.818 196.118 单图生视频 r2 49.856 47.626 54.986 195.909 全参考 r1 52.929 49.005 59.965 308.900 全参考 r2 52.897 48.950 59.931 302.407 六次生成的计时合计 2.3142 GPU 小时,板卡能耗合计约 1.3738 kWh。能耗由每秒采样积分得到,仅含 GPU 板卡,不含 CPU 和整机;租赁费用应按实际计费时长乘以服务器单价计算,环境准备和下载时间需另计。
设备显存来自 nvidia-smi。PyTorch 分配器不包含 AIMDO 在分配器之外管理的权重映射,其峰值已另存于 JSON,不作为设备总显存。容器内存包括文件页缓存。
任务及轮次 采样平均 GPU 利用率 采样平均功耗 W 采样平均图形频率 MHz 文生视频 r1 99.799% 598.604 2336.622 文生视频 r2 99.994% 599.923 2333.549 单图生视频 r1 99.987% 599.805 2338.048 单图生视频 r2 99.988% 599.726 2336.610 全参考 r1 99.868% 598.643 2336.274 全参考 r2 99.906% 596.883 2330.385 环境与启动参数
- GPU:RTX PRO 6000 Blackwell Server Edition,96GB;默认及最大功耗上限均为 600W。
- CPU:Xeon Platinum 8470Q;容器 CPU 配额为 22 核的计算时间。
- 容器内存上限:110 GiB。
- ComfyUI:0.43.0,提交
b5a432157de6b8884f81104cd02926adf4d597e4;最终复核 1329 个官方原始文件均无改动。 - Python 3.12.3;PyTorch 2.12.1+cu130;CUDA 13.0;驱动 580.82.09。
- comfy-kitchen 0.2.40;comfy-aimdo 0.6.0。
- RES multistep 采样器,simple 调度,20 步,CFG 1,24 fps。
- 原生 INT8 DiT 与视频 VAE、NVFP4 AWQ Qwen3-VL、FP32 音频 VAE。
启动脚本完整内容如下:
#!/usr/bin/env bash set -euo pipefail cd /root/autodl-tmp/h3-comfy-benchmark export PATH=/root/miniconda3/bin:$PATH export CUDA_VISIBLE_DEVICES=0 export OMP_NUM_THREADS=16 MKL_NUM_THREADS=16 OPENBLAS_NUM_THREADS=16 export TOKENIZERS_PARALLELISM=false export H3_BENCH_DETAILED=1 export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True exec env/bin/python -u scripts/launch_comfy.py \ --listen 127.0.0.1 --port 8188 \ --preview-method none --cache-classic \ --use-pytorch-cross-attention \ --disable-all-custom-nodes --disable-api-nodes \ --input-directory /root/autodl-tmp/h3-comfy-benchmark/input \ --output-directory /root/autodl-tmp/h3-comfy-benchmark/output \ --extra-model-paths-config /root/autodl-tmp/h3-comfy-benchmark/extra_model_paths.yaml原生量化路径由模型 quant_config 选择,不依赖
--fast fp8_matrix_mult。INT8、NVFP4 和 Flash SDPA 已通过真实 GPU 小算子预检。正式采样使用 PyTorch attention;CK INT8 attention 仅做环境算子检查,未作为正式生成基准。计时通过外部启动包装器记录节点、模型与层耗时。ComfyUI 官方源码未修改。这些数据包含记录开销,未把它们与其他未经相同计时方式测量的数据宣称为严格等价。
================================
1、文生视频:参考素材:T2VA.zip
2、图生视频
参考素材:I2VA.zip
3、全参考
参考素材:https://storage.to/7wm8jl3Ey (仅七天下载时间)
-
,
B Bunsei 引用了 此主题
-
pro 6000 还是目前的个人版的顶配。八极拳也很难破防。
-
pro 6000 还是目前的个人版的顶配。八极拳也很难破防。
-
这张老师傅很难打败。
一张pro 6000 被3张 R9700 击败很难。硬件指标在那呢!
赢了就是 4080S 32G 三张的速度 击败了 5090 96G。 -
把「单请求延迟」和「聚合吞吐」分开看,这场对比才有意义。
PRO 6000 的硬优势是 96G 单卡 + 约 1.79TB/s,TP 通信为 0;3×R9700 纸面总带宽 1.92TB/s,但 all-reduce 走 PCIe、没有 NVLink,H3 这种每步都要同步的 DiT,3 卡 TP 的通信占比会把纸面优势吃掉不少。2×R9700 差 17% 如果还混了 VAE 解码和条件编码,采样段的真实差距可能被稀释或放大,最好分开计时。
3×R9700 能赢的场景我认为是:并发/批吞吐、模型加 KV 超过 32G 但能切进 96G、且 P2P 拓扑和 RCCL 调通;单请求 1080p 长片这种,PRO 6000 免通信仍是硬优势。真要「肘击」,建议同工作流、同量化、同 seed、batch=1,把采样/VAE/条件编码分开报,再附 all-reduce 时间,否则口径不可比。功耗 3×210W 约 630W 和 600W 同级,但三卡平台成本、散热和故障率也得算进去。
-
-
-
这是测试Radiance双卡TP优化时候租的一台对照的服务器,1小时还蛮贵的,就顺手做了一个测试~,机会难得,有没有锤友对自己的配置有信心想跟PRO 6000 肘击下!

测试结果
任务及轮次 输出分辨率 帧数与时长 总耗时 秒 采样 秒 每步 秒 视频解码 秒 文生视频 r1 1344×768 362 / 15.083 秒 1137.492 1097.924 54.896 17.754 文生视频 r2 1344×768 362 / 15.083 秒 1119.251 1096.795 54.840 14.858 单图生视频 r1 1024×1024 362 / 15.083 秒 1187.226 1162.619 58.131 13.925 单图生视频 r2 1024×1024 362 / 15.083 秒 1183.711 1163.307 58.165 13.957 全参考 r1 1344×768 226 / 9.417 秒 1873.828 1812.426 90.621 9.187 全参考 r2 1344×768 226 / 9.417 秒 1829.640 1815.218 90.761 9.206 分阶段耗时
任务及轮次 条件编码含参考 VAE 秒 音频解码 秒 保存 秒 采样内 Attention 秒 采样内 MLP 秒 文生视频 r1 13.433 0.640 6.358 958.991 70.719 文生视频 r2 缓存复用 0.148 6.828 960.267 70.825 单图生视频 r1 4.106 0.156 5.709 1021.292 73.264 单图生视频 r2 缓存复用 0.152 5.683 1021.969 73.275 全参考 r1 43.159 0.143 4.485 1631.393 91.868 全参考 r2 缓存复用 0.115 4.540 1635.360 92.175 首次条件编码的内部耗时如下,均为 CUDA 流经过时间。
任务 Qwen 条件编码 秒 图像 VAE 秒 视频 VAE 秒 音频 VAE 秒 文生视频 13.419 0.000 0.000 0.000 单图生视频 3.291 0.776 0.000 0.000 全参考 22.759 0.966 13.768 0.647 条件编码包含其内部的 Qwen 编码、参考 VAE 和相关模型加载。Attention 与 MLP 的 CUDA 计时包含在采样中,不能再次与采样相加。CUDA 事件记录流上经过的时间,可能包含主机提交间隙,并非独占 GPU 活跃周期。
第一项正式生成前重启了 ComfyUI 进程;操作系统文件缓存与预检产生的内核缓存已经预热。后续任务会复用已加载模型,因此这些总耗时不能解释成每个任务均从系统冷启动。
显存 内存与能耗
任务及轮次 设备显存峰值 GiB ComfyUI 进程 RSS 峰值 GiB 容器内存峰值 GiB GPU 板卡能耗 Wh 文生视频 r1 45.302 45.854 52.791 185.383 文生视频 r2 48.069 45.976 52.933 185.065 单图生视频 r1 49.856 47.546 54.818 196.118 单图生视频 r2 49.856 47.626 54.986 195.909 全参考 r1 52.929 49.005 59.965 308.900 全参考 r2 52.897 48.950 59.931 302.407 六次生成的计时合计 2.3142 GPU 小时,板卡能耗合计约 1.3738 kWh。能耗由每秒采样积分得到,仅含 GPU 板卡,不含 CPU 和整机;租赁费用应按实际计费时长乘以服务器单价计算,环境准备和下载时间需另计。
设备显存来自 nvidia-smi。PyTorch 分配器不包含 AIMDO 在分配器之外管理的权重映射,其峰值已另存于 JSON,不作为设备总显存。容器内存包括文件页缓存。
任务及轮次 采样平均 GPU 利用率 采样平均功耗 W 采样平均图形频率 MHz 文生视频 r1 99.799% 598.604 2336.622 文生视频 r2 99.994% 599.923 2333.549 单图生视频 r1 99.987% 599.805 2338.048 单图生视频 r2 99.988% 599.726 2336.610 全参考 r1 99.868% 598.643 2336.274 全参考 r2 99.906% 596.883 2330.385 环境与启动参数
- GPU:RTX PRO 6000 Blackwell Server Edition,96GB;默认及最大功耗上限均为 600W。
- CPU:Xeon Platinum 8470Q;容器 CPU 配额为 22 核的计算时间。
- 容器内存上限:110 GiB。
- ComfyUI:0.43.0,提交
b5a432157de6b8884f81104cd02926adf4d597e4;最终复核 1329 个官方原始文件均无改动。 - Python 3.12.3;PyTorch 2.12.1+cu130;CUDA 13.0;驱动 580.82.09。
- comfy-kitchen 0.2.40;comfy-aimdo 0.6.0。
- RES multistep 采样器,simple 调度,20 步,CFG 1,24 fps。
- 原生 INT8 DiT 与视频 VAE、NVFP4 AWQ Qwen3-VL、FP32 音频 VAE。
启动脚本完整内容如下:
#!/usr/bin/env bash set -euo pipefail cd /root/autodl-tmp/h3-comfy-benchmark export PATH=/root/miniconda3/bin:$PATH export CUDA_VISIBLE_DEVICES=0 export OMP_NUM_THREADS=16 MKL_NUM_THREADS=16 OPENBLAS_NUM_THREADS=16 export TOKENIZERS_PARALLELISM=false export H3_BENCH_DETAILED=1 export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True exec env/bin/python -u scripts/launch_comfy.py \ --listen 127.0.0.1 --port 8188 \ --preview-method none --cache-classic \ --use-pytorch-cross-attention \ --disable-all-custom-nodes --disable-api-nodes \ --input-directory /root/autodl-tmp/h3-comfy-benchmark/input \ --output-directory /root/autodl-tmp/h3-comfy-benchmark/output \ --extra-model-paths-config /root/autodl-tmp/h3-comfy-benchmark/extra_model_paths.yaml原生量化路径由模型 quant_config 选择,不依赖
--fast fp8_matrix_mult。INT8、NVFP4 和 Flash SDPA 已通过真实 GPU 小算子预检。正式采样使用 PyTorch attention;CK INT8 attention 仅做环境算子检查,未作为正式生成基准。计时通过外部启动包装器记录节点、模型与层耗时。ComfyUI 官方源码未修改。这些数据包含记录开销,未把它们与其他未经相同计时方式测量的数据宣称为严格等价。
================================
1、文生视频:参考素材:T2VA.zip
2、图生视频
参考素材:I2VA.zip
3、全参考
参考素材:https://storage.to/7wm8jl3Ey (仅七天下载时间)
-
-
版主审定:本帖设为精华,作者 +6 积分奖励,希望再接再厉!