【交作业】双 7900 XTX跑Strata IQ3_S:262K实测,Prefill 5,147 tok/s 可抄作业
-
@懒人烘培 可以跑,W7900已经跑通了,它实际上就是7900XTX 48G,你让Agent研究下。主要不是跑起来,而是整个流程的效率提升。目前看测试是单步提升很大,但是总体上只快了一半。
-
github上看到了这个https://github.com/nicejunjie/Strata-rdna3,作者好像就是AMD的人,双7900xtx prefill能干到6000+了
-
github上看到了这个https://github.com/nicejunjie/Strata-rdna3,作者好像就是AMD的人,双7900xtx prefill能干到6000+了
-
@yin-meng 我测试过了,贼强,他的master只支持avx512 cpu, avx2的cpu要用这个分支 https://github.com/nicejunjie/Strata-rdna3/pull/1
-
github上看到了这个https://github.com/nicejunjie/Strata-rdna3,作者好像就是AMD的人,双7900xtx prefill能干到6000+了
-
@yin-meng 我测试过了,贼强,他的master只支持avx512 cpu, avx2的cpu要用这个分支 https://github.com/nicejunjie/Strata-rdna3/pull/1
-
-
-
-
-
-
-
我用作者的方法 跑了3090 x2
ukisai/Swift-1.5-Qwen3.8-Flash-Next-GGUF, IQ4_XS
Setup 19K 43K 89K 123K Decode Production, 250 W 3,198 3,823 3,762 3,647 112 / 118 / 116 / 198 Fork, DP 16K chunks, 350 W 4,493 5,046 5,481 5,418 121 / 125 / 118 / 199 -
我用作者的方法 跑了3090 x2
ukisai/Swift-1.5-Qwen3.8-Flash-Next-GGUF, IQ4_XS
Setup 19K 43K 89K 123K Decode Production, 250 W 3,198 3,823 3,762 3,647 112 / 118 / 116 / 198 Fork, DP 16K chunks, 350 W 4,493 5,046 5,481 5,418 121 / 125 / 118 / 199 -
@applejuice 主要我这针对双7900XTX优化的,那成绩比之前的有所提高吗?
-
-
@applejuice
nicejunjie?这是什么
哦,那就看谁用的是IQ4_XS,跑跑看@懒人烘培 我用了 https://github.com/nicejunjie/Strata-rdna3 这个 fork
strata 原生跑 pp , radiance 跑tp
https://github.com/nicejunjie/Strata-rdna3 - 这个跑dp我根据你们帖子 然后claude 改给3090
我现在跑的是IQ4_XS 我没测IQ3_S
@johnnybegood 来看看
-
@applejuice 主要我这针对双7900XTX优化的,那成绩比之前的有所提高吗?
-
世界变太快了
1个月前还在为 2000 prefill 的 iq3_xxs 开心
现在已经是5000-6000 prefill iq4_S -
世界变太快了
1个月前还在为 2000 prefill 的 iq3_xxs 开心
现在已经是5000-6000 prefill iq4_S

我的测试结果是avx2 最快能顶到6000 pp 大部分是5100~5500, decode也非常牛,dsh 跑一个session下来平均117~120
应该就是微调了hipblaslt的表。


