-
-
-
-
-
综上双卡应该就是最佳的了,优化完后大概是1张 48G 显存的水平。性能能到5090那个层级。四卡显存利用率会大幅下降,优化完后大概是PRO 5000 72G的水平,但代价是功耗是1200W,性能大概是单卡的3倍。
-
-
-
@Bunsei 那以后推荐卡的顺序都变了,有24G的卡能测试下吗?我这几天没时间,想大家测试了,我忙完,11月中直接抄作业。你搞完这个帖子要奖励你50积分,先奖励20积分。因为太重要了。感谢你的贡献!
-
@terry 我只有两张R9700 7900XTX我么的。而且得注意RDNA4跟RDNA3之间差的蛮大的,不能指望算力上有多大的提升。 显存方面按照我的测试双卡大概是 70%左右的利用率、最高80%,但这个是全程脱离了comfyui的环境的,而且配套的节点还没vibe出来,所以我不能保证。
-
-
mark留名,双r9700只搞了Qwen3.8fn,速度还是很满意的。
这下可以跟着大佬们学习跑图和视频了。
-
mark留名,双r9700只搞了Qwen3.8fn,速度还是很满意的。
这下可以跟着大佬们学习跑图和视频了。
@shawn-shen 跑的是radiance 吗?
测试下512K 长上下文呗
-
-
,
T terry 引用了 此主题
-
,
T terry 引用了 此主题
-
@shawn-shen 跑的是radiance 吗?
测试下512K 长上下文呗
@applejuice 是的,radiance推qwen3.8-next-flash-uncensored-fp8-iq4r-moe这个破甲模型。
部署来自己开发用的,所以上下文设的512k,日常速度大概170t/s,调试说是大约支持2并发。
ngram卸载到nvme之后,内存要求蛮低的,我记得空了二三十g的样子,我内存是96g,感觉64g说不定也能用了。 -
@applejuice 是的,radiance推qwen3.8-next-flash-uncensored-fp8-iq4r-moe这个破甲模型。
部署来自己开发用的,所以上下文设的512k,日常速度大概170t/s,调试说是大约支持2并发。
ngram卸载到nvme之后,内存要求蛮低的,我记得空了二三十g的样子,我内存是96g,感觉64g说不定也能用了。@shawn-shen 7k prefill 吗?
-
-
-
,系统 取消固定了此主题
-
-
@Bunsei 那以后推荐卡的顺序都变了,有24G的卡能测试下吗?我这几天没时间,想大家测试了,我忙完,11月中直接抄作业。你搞完这个帖子要奖励你50积分,先奖励20积分。因为太重要了。感谢你的贡献!
-


本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!


