請問關於Qwen3.8-Flash-Next

[怪物]

各位前輩大家好，
我現在使用的是qwen 3.8 27B Q8的版本256K上下文
用Hermes開的時候，大概佔41.5G VRAM，
同時叫他開ComfyUI使用minimax H3生成視訊的時候，
會用到94.5G VRAM，GPU使用率常常100%，CPU 4%，記憶體40%(76G)
聽說用Strata跑Qwen3.8-Flash-Next 可以用比較少的VRAM
不知道我192G記憶體跟96G VRAM，適合跑哪一個版本的Qwen3.8-Flash-Next ?
我希望精度高一點，但是不要占用超過40G VRAM，
這樣的版本要到哪裡下載呢?
因為我看不懂英文，所以對很多訊息都很模糊，又不知道怎麼搜索論壇，
請各位前輩指導一下，
謝謝

[johnnybegood]

@怪物 如果是 8bit 精度的话， 应该就是这么大了， 换什么版本都差不多。 关键是 minimax H3 跑的时候， 我 3090 24G 都能跑的很顺的， 所以应该不用操心这个把。

[kop wang]

可以参照我的帖https://lcz.me/topic/2189/12

IQ3_XXS，然后把专家控制在15000，大概就是40vram。

但是问题是，太多专家在RAM中，会明显拖慢速度。无法发挥出moe模型prefill和decode压力小的优势。

[kop wang]

btw：其实agent来直接驱动comfyUI并且等验收，相对而言是比较低效的。
我的做法更多的是，让agent生成一系列的comfyUI任务，然后利用comfyUI的ComfyUI Queue Manager插件实现归档队列。

然后夜深人静的时候再集中跑。

[tester12340]

@怪物 hermes agent 不建议用桌面版。

[perter]

@怪物
Strata运行Qwen3.8-Flash-Next时，想保留多少显存可以自己指定，比如保留8G显存。

"--vram-reserve-mib",
"8192",

[marsempire]

装个沉浸式翻译插件翻译一下网页不就好了，或者让ai给你手搓一个翻译插件，跑一个本地翻译模型

这年头不懂英文也无所谓了

[怪物]

@kop-wang 原來可以這樣，雖然我還看不懂(因為看不懂英文)，但是知道這個方向，可以請AI研究一下，謝謝

[怪物]

@tester12340 用手機版嗎？我手機是用telegram連hermes，可是不太會操作

[怪物]

@perter 好的，謝謝

[怪物]

@johnnybegood 好的，謝謝

[怪物]

@kop-wang 好的，謝謝

[tester12340]

@怪物 我的意思是说要用 cli。 桌面占用资源，而且会搞的很乱。 cli 接 telegrame 手机和 telegrame 桌面，很轻 很爽。每个bot 都隔离，定义专属职位。 用cron做定期任务。 我现在有大概10个bot 每天做不同的事情，而且记得一定要加自我学习，和自我完善。