【交作业】双 7900 XTX跑Strata IQ3_S：262K实测，Prefill 5,147 tok/s 可抄作业

[懒人烘培]

@Enigma 是呀，@xiongjie-gao 作业抄得如何？

[Enigma]

@懒人烘培 说:

@Enigma 是呀，@xiongjie-gao 作业抄得如何？

明天到货啊

[懒人烘培]

@Enigma 这么快，等待你发作业，看能复现不。

[xiongjie gao]

@懒人烘培 你把我的预设打破了，你这双并发的数据比我两组两槽四并发的方案好太多，我都怀疑我这边的调教空间了。

所以多做了几组方案的优化，事实证明是我贪了。超预期那波提升是你的ＣＰＵ承担了部分ＭＯＥ的计算工作。但你这数据是有干货的。

基本结论是以１５％左右的ＴＴＦＴ延时，取得４０％左右的关键数据提升。这生意是挣的
日子也是好起来，从最初未优化４０token／s到现在９０＋，仍觉得还有优化的空间。

[懒人烘培]

@xiongjie-gao 嗯嗯，复现成功了，我也觉得后期还是有优化空间

[terry]

@懒人烘培 可以跑，W7900已经跑通了，它实际上就是7900XTX 48G，你让Agent研究下。主要不是跑起来，而是整个流程的效率提升。目前看测试是单步提升很大，但是总体上只快了一半。

[懒人烘培]

@terry 好的，收到老特

[yin meng]

github上看到了这个https://github.com/nicejunjie/Strata-rdna3，作者好像就是AMD的人，双7900xtx prefill能干到6000+了

[J I]

@yin-meng 我测试过了，贼强，他的master只支持avx512 cpu, avx2的cpu要用这个分支 https://github.com/nicejunjie/Strata-rdna3/pull/1

[yin meng]

@J-I 对的，我是原版装的确实遇到这个问题，不过deepseek给我打了补丁就跑起来了。AMD也是吃上细糠了

[懒人烘培]

@yin-meng 这么猛的，看来还有进一步优化空间

[懒人烘培]

@J-I 我那7500F可以测试看看，支持avx512。

[J I]

@懒人烘培

@yin-meng 双卡strata 接近5090了? 我的测试结果是avx2 最快能顶到6000 pp 大部分是5100~5500， decode也非常牛，dsh 跑一个session下来平均117~120

[懒人烘培]

@J-I 对比成绩来看接近5090的80%多的性能，如果进一步优化能prefill能到6000，那双7900XTX那就更香了。

[yin meng]

@懒人烘培 prefill真能上6000, 反正我就丢给deepseek去弄，IQ3_S给我最高干到了6900 应该就是微调了hipblaslt的表。

[懒人烘培]

@yin-meng 这么猛的，能让我抄作业不？修改了什么地方

[kos or]

@yin-meng

7900XTX GPU才56度 溫度真低 棒！
MoE 大概是7900 XTX 的甜蜜點 溫度夠低 真的好

[懒人烘培]

@kos-or 我测试prefill才6500，还在优化，难道是我U差一点？

[applejuice]

我用作者的方法 跑了3090 x2

ukisai/Swift-1.5-Qwen3.8-Flash-Next-GGUF, IQ4_XS

Setup	19K	43K	89K	123K	Decode
Production, 250 W	3,198	3,823	3,762	3,647	112 / 118 / 116 / 198
Fork, DP 16K chunks, 350 W	4,493	5,046	5,481	5,418	121 / 125 / 118 / 199

[懒人烘培]

@applejuice 主要我这针对双7900XTX优化的，那成绩比之前的有所提高吗？