【交作业】双 7900 XTX跑Strata IQ3_S：262K实测，Prefill 5,147 tok/s 可抄作业

[懒人烘培]

@J-I 对比成绩来看接近5090的80%多的性能，如果进一步优化能prefill能到6000，那双7900XTX那就更香了。

[yin meng]

@懒人烘培 prefill真能上6000, 反正我就丢给deepseek去弄，IQ3_S给我最高干到了6900 应该就是微调了hipblaslt的表。

[懒人烘培]

@yin-meng 这么猛的，能让我抄作业不？修改了什么地方

[kos or]

@yin-meng

7900XTX GPU才56度 溫度真低 棒！
MoE 大概是7900 XTX 的甜蜜點 溫度夠低 真的好

[懒人烘培]

@kos-or 我测试prefill才6500，还在优化，难道是我U差一点？

[applejuice]

我用作者的方法 跑了3090 x2

ukisai/Swift-1.5-Qwen3.8-Flash-Next-GGUF, IQ4_XS

Setup	19K	43K	89K	123K	Decode
Production, 250 W	3,198	3,823	3,762	3,647	112 / 118 / 116 / 198
Fork, DP 16K chunks, 350 W	4,493	5,046	5,481	5,418	121 / 125 / 118 / 199

[懒人烘培]

@applejuice 主要我这针对双7900XTX优化的，那成绩比之前的有所提高吗？

[applejuice]

@懒人烘培 你就是 nicejunjie?
全力跑提高了快20-30%

我没用iq3_s 来跑
主要是懒 希望有缘人继续

这样的成绩还要什么r9700

[懒人烘培]

@applejuice
nicejunjie？这是什么
哦，那就看谁用的是IQ4_XS，跑跑看

[applejuice]

@懒人烘培 我用了 https://github.com/nicejunjie/Strata-rdna3 这个 fork

strata 原生跑 pp , radiance 跑tp
https://github.com/nicejunjie/Strata-rdna3 - 这个跑dp

我根据你们帖子 然后claude 改给3090

我现在跑的是IQ4_XS 我没测IQ3_S

@johnnybegood 来看看

[懒人烘培]

@yin-meng 我也调试好了，最高干7000了，一般都在6000以上，增长21.7%。

和之前的也做了对比，提升效果如下，如果需要我另开一篇文章写一下

[applejuice]

世界变太快了

1个月前还在为 2000 prefill 的 iq3_xxs 开心
现在已经是5000-6000 prefill iq4_S

[懒人烘培]

@applejuice 模型不同，IQ4_XS可能双7900XTX估计也在5000多，具体没有实测，等待大佬实测

[applejuice]

现在突然strata 跑太快 我感觉瓶颈又变成 r9700 跑27b 太慢了

[懒人烘培]

@applejuice 是呀，开始我不看好strata结果出乎意料，或许R9700还要继续在优化一下呢。

[坤坤]

作业没抄成功，我是64g的内存莫不是96g的，一部分专家落固态里面了，没法

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励！

奖励凭证：热议 +3 分 · 编号 h2626-1927-1

[懒人烘培]

@坤坤 嗯嗯，内存少了些。增大到96G会更好

[kos or]

@懒人烘培 said:

和之前的也做了对比，提升效果如下，如果需要我另开一篇文章写一下

這兩組數字有點神奇, GPU溫度都一樣 , 但是Power功耗有差距,
當然也有可能這是瞬間功耗 兩組數據的功耗平均值是差不多
或許其中一組的 7900 XTX 是有降低功耗在跑 ?

[terry]

@懒人烘培 抓紧抄下这个啊：https://lcz.me/topic/2643/