在线求大神硬件本地方案能同时运行千问3.8flash＋comfyui。

[Werther Wang]

我现在是一张4080s16g，单独跑千问3.8flash或者单独跑comfyui都没问题，我是想让千问帮我操控comyui干活，这样的话我的显存就完全不够。目前配置是这样
CPU 245KF
主板 z890
内存 DDR5-6000 96 GB
显卡 RTX 4080 SUPER 16 GB

现在cpu和内存是够的么？是不是只要换大显存就行？要多大显存才够，有人有成熟方案么？

[Thanaots]

这个需求写的听模糊的，感觉至少需要4090 48GB吧

[伊明]

本地agent控制本地的comfyui，我专机专用，一机agent，一机comfyui。因为手头的主板和内存我没法双卡满状态运行，也没法在一台机器上凑齐128gb或以上内存，所以我用两台机器。我用千问3.8 27b q4，这个agent我最高观察到的消耗内存估计在20～32g左右，comfyui绝对能吃满64g，所以你的机器内存应该是可以的，想解决这个问题，上第二张卡吧，或者上第二台机器，ssh链接，指挥调用。

[伊明]

一张卡伺候一个服务，一卡agent，一卡comfyui。

[Werther Wang]

@伊明 如果我换成32g显存的4080可行么？

[imbiplaza ASUS]

给你提示，如果你接受我这种玩法unload & reload

我的想法是渲染comfyui h3 需要时间，不需要常驻qwen , 就把qwen unload, 让h3 上马
comfyui 完成后，unload h3, 让qwen 接手分析

这是穷人的玩法，最好的玩法就是96g vram ， 两者同步执行

另外一个玩法就是买多一个workstation 专门跑qwen

[伊明]

@Werther-Wang 换不如加一张合适的卡跑agent

[Werther Wang]

@伊明 多谢，我觉的两台机器的方案可以试一下。

[Wang Wei]

我现在就是这么干的， X99-TF 128G ddr3 内存 2张7900xtx 一张上面跑qwen flash next, 另一张上面跑miniMax H3，我要做视频就用next模型作为Hermes的provider来控制miniMax，这是比较爽的用法。

[Werther Wang]

@Wang-Wei qwen flash next操控comfyui费劲么？

[Wang Wei]

@Werther-Wang 基本上够用，特别是你已经把路子摸清了，那就很够用了。开始可以先用deepseek（在线API）跑一跑

[Werther Wang]

@Wang-Wei 我现在就是用deepseek跑，deepseek玩儿comfyui很丝滑。不知道千问丝滑不丝滑。

[Wang Wei]

@Werther-Wang 我没用过deepseek（指本地AI），我这配置撑不起来。不过我对qwen flash next已经可用了。

[Bunsei]

NVIDIA MPS 但需要有一部分开发工作量。

[xiongjie gao]

[Werther Wang]

@Wang-Wei deepseek用的api，本地肯定部署不起 哈哈

[Titain Huang]

@Werther-Wang 不會，我之前就是在A機5060 16g跑Strata+Flash Next，B機3060 12g跑comfyui和hermes，讓hermes自動檢查comfyui跑出來的圖
只要區網內本機防火牆有打通就能遙控，如果在同一台機器上就更簡單