【新人报道・求建议】16G 显存+128G 内存:H3 视频生成和本地大模型分别怎么配置最合适?
-
大家好,新配了一台机器(11 月中到货),主要做两件事:一是用 MiniMax H3 生成视频镜头,二是长期跑本地大模型干活。想请有经验的大佬给点建议。
【配置】
CPU:Ryzen 9 9900X(12 核 24 线程)
显卡:RTX 5080 16G(水冷版)
内存:128GB(64GB×2,DDR5-5600 双通道)
硬盘:2TB NVMe(PCIe 4.0)
电源:1000W
系统:Windows 11 专业版
平时主要从 Mac 远程(SSH)控制,不想装 WSL2。【一、H3 视频】
现在在云端 4090 上跑:ComfyUI+官方 int8 convrot 剪枝版主模型+NVFP4 文本编码器+官方 turbo 8 步 LoRA,部分镜头加 Fun ControlNet(深度控制)。分辨率 1344×768,每条 3~8 秒,平均每 1 秒画面约 1.2 分钟。
到货前在 4090 上把显存压到 16G 模拟了一下:8 秒深度控制镜头 8.59 分钟(不压是 8.3 分钟),显存峰值 16.2G,内存约 58G,没报错。想请教:
- 50 系能原生跑 FP4,主模型换成 NVFP4 版值不值得?画质和 int8 版实际差多少?速度能快多少?
- Windows 原生 ComfyUI 跑 H3 有没有坑?comfy_kitchen 和 Turbo 节点在 Windows 上能正常用吗?
- 16G 跑 15 秒(360 帧左右)的长镜头稳不稳?有没有推荐的启动参数(比如 --reserve-vram)?
- 有没有在 H3 上实测有效的提速方法(SageAttention、EasyCache/TeaCache 之类)?
【二、本地大模型】
用途:写作、翻译、整理资料,也会接 Agent 用。现在在 Mac 上跑 27B 稠密模型,每秒 12~16 token,嫌慢。想请教:
- 打算用 Strata 跑 Qwen3.8-Flash-Next 125B。16G+128G 这种配置,用哪个量化档比较平衡?实际每秒能有多少 token?
- 除了 Strata,这个配置还有什么更合适的模型或工具组合?(比如 llama.cpp 把 MoE 专家放内存跑 gpt-oss-120b,或者把 27B~32B 稠密模型压到能装进 16G)
- Windows 下 llama.cpp、LM Studio、Ollama、Strata 你们实际用下来哪个最顺手?
另外,H3 和本地大模型我打算错开跑,不同时用。这个思路有没有问题?
先谢谢各位!
-
- 试一试https://huggingface.co/ZhengmingYu/DMAD
- IQ3_S, 5080 > 100ts
- 除了 Strata,其他 > Q3.8 27b
- first > strata, 2nd llama 3rd lmstudio 4th ollama
- 先setup strata, 叫agent 帮你做:
python 分阶段驱动、ComfyUI 与 Qwen3.8 不同步加载
agent & comfyui 相互自己load & unload......
背后就靠着tray system 来管制着这两个家伙
-
大家好,新配了一台机器(11 月中到货),主要做两件事:一是用 MiniMax H3 生成视频镜头,二是长期跑本地大模型干活。想请有经验的大佬给点建议。
【配置】
CPU:Ryzen 9 9900X(12 核 24 线程)
显卡:RTX 5080 16G(水冷版)
内存:128GB(64GB×2,DDR5-5600 双通道)
硬盘:2TB NVMe(PCIe 4.0)
电源:1000W
系统:Windows 11 专业版
平时主要从 Mac 远程(SSH)控制,不想装 WSL2。【一、H3 视频】
现在在云端 4090 上跑:ComfyUI+官方 int8 convrot 剪枝版主模型+NVFP4 文本编码器+官方 turbo 8 步 LoRA,部分镜头加 Fun ControlNet(深度控制)。分辨率 1344×768,每条 3~8 秒,平均每 1 秒画面约 1.2 分钟。
到货前在 4090 上把显存压到 16G 模拟了一下:8 秒深度控制镜头 8.59 分钟(不压是 8.3 分钟),显存峰值 16.2G,内存约 58G,没报错。想请教:
- 50 系能原生跑 FP4,主模型换成 NVFP4 版值不值得?画质和 int8 版实际差多少?速度能快多少?
- Windows 原生 ComfyUI 跑 H3 有没有坑?comfy_kitchen 和 Turbo 节点在 Windows 上能正常用吗?
- 16G 跑 15 秒(360 帧左右)的长镜头稳不稳?有没有推荐的启动参数(比如 --reserve-vram)?
- 有没有在 H3 上实测有效的提速方法(SageAttention、EasyCache/TeaCache 之类)?
【二、本地大模型】
用途:写作、翻译、整理资料,也会接 Agent 用。现在在 Mac 上跑 27B 稠密模型,每秒 12~16 token,嫌慢。想请教:
- 打算用 Strata 跑 Qwen3.8-Flash-Next 125B。16G+128G 这种配置,用哪个量化档比较平衡?实际每秒能有多少 token?
- 除了 Strata,这个配置还有什么更合适的模型或工具组合?(比如 llama.cpp 把 MoE 专家放内存跑 gpt-oss-120b,或者把 27B~32B 稠密模型压到能装进 16G)
- Windows 下 llama.cpp、LM Studio、Ollama、Strata 你们实际用下来哪个最顺手?
另外,H3 和本地大模型我打算错开跑,不同时用。这个思路有没有问题?
先谢谢各位!
-
- 试一试https://huggingface.co/ZhengmingYu/DMAD
- IQ3_S, 5080 > 100ts
- 除了 Strata,其他 > Q3.8 27b
- first > strata, 2nd llama 3rd lmstudio 4th ollama
- 先setup strata, 叫agent 帮你做:
python 分阶段驱动、ComfyUI 与 Qwen3.8 不同步加载
agent & comfyui 相互自己load & unload......
背后就靠着tray system 来管制着这两个家伙
感谢回复! 我等机器到了后 研究下!学习到了!!太感谢了!
-
@ゆうみん
你RAM有128G,量化可以跑NVFP4 -
16G vram,如果跑h3,只能跑int4权重,有人说视频效果很模糊,如果玩玩无所谓,如果用来做主播挣钱,建议还是买大一点的卡。
-
16G vram,如果跑h3,只能跑int4权重,有人说视频效果很模糊,如果玩玩无所谓,如果用来做主播挣钱,建议还是买大一点的卡。
@XIUNAN-ZHI 感谢! 其实纠结过一段时间。N卡大显存的 太贵了。而且搞不到比较好的2手的。做视频A卡感觉环境没有那么好(主要网上查不到什么相关的信息)。所以最终选了5080 16G。
-
-
-
-
-
-
-
-
大家好,新配了一台机器(11 月中到货),主要做两件事:一是用 MiniMax H3 生成视频镜头,二是长期跑本地大模型干活。想请有经验的大佬给点建议。
【配置】
CPU:Ryzen 9 9900X(12 核 24 线程)
显卡:RTX 5080 16G(水冷版)
内存:128GB(64GB×2,DDR5-5600 双通道)
硬盘:2TB NVMe(PCIe 4.0)
电源:1000W
系统:Windows 11 专业版
平时主要从 Mac 远程(SSH)控制,不想装 WSL2。【一、H3 视频】
现在在云端 4090 上跑:ComfyUI+官方 int8 convrot 剪枝版主模型+NVFP4 文本编码器+官方 turbo 8 步 LoRA,部分镜头加 Fun ControlNet(深度控制)。分辨率 1344×768,每条 3~8 秒,平均每 1 秒画面约 1.2 分钟。
到货前在 4090 上把显存压到 16G 模拟了一下:8 秒深度控制镜头 8.59 分钟(不压是 8.3 分钟),显存峰值 16.2G,内存约 58G,没报错。想请教:
- 50 系能原生跑 FP4,主模型换成 NVFP4 版值不值得?画质和 int8 版实际差多少?速度能快多少?
- Windows 原生 ComfyUI 跑 H3 有没有坑?comfy_kitchen 和 Turbo 节点在 Windows 上能正常用吗?
- 16G 跑 15 秒(360 帧左右)的长镜头稳不稳?有没有推荐的启动参数(比如 --reserve-vram)?
- 有没有在 H3 上实测有效的提速方法(SageAttention、EasyCache/TeaCache 之类)?
【二、本地大模型】
用途:写作、翻译、整理资料,也会接 Agent 用。现在在 Mac 上跑 27B 稠密模型,每秒 12~16 token,嫌慢。想请教:
- 打算用 Strata 跑 Qwen3.8-Flash-Next 125B。16G+128G 这种配置,用哪个量化档比较平衡?实际每秒能有多少 token?
- 除了 Strata,这个配置还有什么更合适的模型或工具组合?(比如 llama.cpp 把 MoE 专家放内存跑 gpt-oss-120b,或者把 27B~32B 稠密模型压到能装进 16G)
- Windows 下 llama.cpp、LM Studio、Ollama、Strata 你们实际用下来哪个最顺手?
另外,H3 和本地大模型我打算错开跑,不同时用。这个思路有没有问题?
先谢谢各位!
想请教:
50 系能原生跑 FP4,主模型换成 NVFP4 版值不值得?画质和 int8 版实际差多少?速度能快多少?
Windows 原生 ComfyUI 跑 H3 有没有坑?comfy_kitchen 和 Turbo 节点在 Windows 上能正常用吗?
16G 跑 15 秒(360 帧左右)的长镜头稳不稳?有没有推荐的启动参数(比如 --reserve-vram)?
有没有在 H3 上实测有效的提速方法(SageAttention、EasyCache/TeaCache 之类)?主模型千万不要换成 NVFP4 版,效果太差,ComfyUI官方已经删除了,目前最小版本官方推荐W6A8. 比我以前用的W4A4 音频效果好一点。
https://huggingface.co/Comfy-Org/MiniMax-H3/tree/main/diffusion_models
其余可以参考下面的帖子
https://lcz.me/topic/1743
