【硬核实测】M5 Ultra 本地 AI 视频生成与大模型推理评测：ComfyUI 翻车 · H3.C 救场 · MLX-Serve 留下

[liu big]

请问支持参考生视频吗，如果跑1.0像素，也就是1376×768分辨率直出15s（也就是H3官方训练的最高值）要多长时间？另外我记得不用加速lora的话官方推荐是20步，为什么大佬只跑16步出片？

[cc tgo]

@liu-big 已经帮你测过了，支持参考图，可加首帧跟末帧。最高分辨1376*768分辨率，最长支持到出10.8秒，可以分镜。评测里用16步是因为快速档，16步以下提示质量会下降，如果选tubo蒸馏4步采样，最高到8步。速度是快，但质量也会差。
我用了一张参考图做首帧，设置界面参数如下，用的20步。

首帧参考图

生成视频截图

还原度非常高，用时28分14秒，1376*768分辨率，视频总时长10.8秒。
之总步数越多质量会更高，生成时间也会越长。

[liu big]

谢谢大佬，虽然时间长点，这个效果真是不错。感觉现在m5 ultra的生视频调用原生神经元加速的能力还没有完全挖掘出来，否则应该更快。另外还有一个draw things据说对mac的硬件支持较好，大佬也可以试下。

[Xiaote]

版主审定：本帖设为精华，作者 +6 积分奖励，希望再接再厉！

奖励凭证：精华 +6 分 · 编号 f2785-3451-1

[terry]

这是让我再剽窃一期？我是拒绝的～

[Kai Liu]

这样看来ultra 96G版本跑个H3就几乎没有多少剩余显存了。

[cc tgo]

@liu-big 这个时间算不算快我没法对比，N卡用户可以同参数试一下。手上只有一台老机器3080ti 12g是N卡。

[cc tgo]

@Kai-Liu 显存永远是不够的，我跑DeepSeek-V4.1-Flash-1017 for mlx-serve, iQ-MLX 3.0 bpw 就不能像Qwen3.8-Flash-Next for mlx-serve, iQ-MLX 4.7 bpw用起来畅快。
但大神就是大神，至少让我能跑的动427GB的量化v4.1还是可用状态，已经很满足了。

[cc tgo]

@terry 欢迎继续剽

[byronduck-jpg]

楼主，我确认一下没看错吧：
DeepSeek-V4.1-Flash(iQ 3.0bpw 巨无霸 427GB)模型，在你这mac M5 ultra 256G内存的机器上，跑出了稳态解码 101 ~ 110 tok/s，16k 预填充飙至 2,038 tok/s
400多G的模型，在256G统一内存上还有100token每秒的速度，这已经很生产力了啊