【交作业】双 7900 XTX跑Strata IQ3_S：262K实测，Prefill 5,147 tok/s 可抄作业

[懒人烘培]

写此文章受到【双 R9700 折腾记】从 Strata 到 Radiance 的启发，Radiance不支持7900XTX,经过查询作者有意加入但是无具体交付时间，所以只有使用strata 多卡分层技术了。

主机是 Ryzen 5 7500F + 双 RX 7900 XTX，Strata 0.1.45，Qwen3.8-Flash-Next GSQ-RCO IQ3_S。固定 262K context，分别测六档冷提示；每档 2 轮、每轮输出 256 token，提示缓存命中为 0。下列数值取中位数。

六档速度

• 4K：Prefill 1,542 tok/s · Decode 99.3 tok/s · TTFT 2.69 秒
• 32K：Prefill 3,572 tok/s · Decode 99.2 tok/s · TTFT 9.22 秒
• 64K：Prefill 4,459 tok/s · Decode 98.6 tok/s · TTFT 14.75 秒
• 85K：Prefill 4,530 tok/s · Decode 98.1 tok/s · TTFT 19.28 秒
• 128K：Prefill 5,020 tok/s · Decode 85.5 tok/s · TTFT 25.58 秒
• 262K：Prefill 5,147 tok/s · Decode 88.9 tok/s · TTFT 51.02 秒

测试配置

CPU: Ryzen 5 7500F
GPU: RX 7900 XTX × 2 (gfx1100), HIP, layer split 24
RAM: 96 GB
Strata engine: 0.1.45
Model: Qwen3.8-Flash-Next GSQ-RCO IQ3_S
Context: 262144
Prefill: 16384
KV: INT8, kv-resident 20480
VRAM reserve: 2048 MiB
Expert cache: auto; pipeline windows: 2
MTP: spec 3, spec-min-p 0.5, suffix-draft 4
Threads: 8
hipBLASLt: gfx1100 100401 tuning table calibrated for 16K prefill

环境变量：

STRATA_STAGE_TRIM=1
STRATA_PCIE_AUTO_SPLIT=1
STRATA_PF_FUSED=1
STRATA_PF_GEMM=1
STRATA_GDN_CHUNKED=1
STRATA_HIP_WMMA=1
STRATA_SCORES_THREAD=1
STRATA_SELECT_SIMT=1
STRATA_HIPBLASLT_TUNING=/path/to/gfx1100-hipblaslt-100401-262k.txt

262K Prefill 调优对照

固定 261,880 输入 + 256 输出、关闭检查点：10K 分块基线重启复测为 4,929.5 tok/s；16K 分块配套校准表重启确认 5,243.9 tok/s，约提升 6.4%。这是组合调优结果，不能单独归因于分块。日常配置保留 2 GiB 显存预留；1 GiB 只快约 0.7%，但加载后总余量约 1,006 MiB。

测试环境为 Ubuntu 24.04.5、HIP 7.14.60850。以上是单机实测。欢迎贴 Strata 版本、KV、prefill、显存预留和原始复测数据交流。

[xiongjie gao]

@懒人烘培 兄弟你好香。
咱俩的硬件配置相当，你的作业我可以闭眼抄

[懒人烘培]

@xiongjie-gao 必须抄作业，也是陆续调试及优化了几个小时的结果哈~

[Hackner Weinland]

希望能有单卡优化的方法

[terry]

这数字绝对啊，XTX你不是双卡吗我弟，你去测试下这个帖子啊：https://lcz.me/topic/2582
我就等着你的数据水视频了。

[懒人烘培]

@Hackner-Weinland 单卡就得找时间来做了，这个需要等等

[懒人烘培]

@terry 看你视频的时候我看到这个帖子了，现在就是ubuntu预留空间不足，只剩下15G空间了，正在想解决办法，是加硬盘还是别的办法。

[terry]

@懒人烘培 赶紧的，就等你和 @xiongjie-gao 了，我先水一期，留个悬念。

[懒人烘培]

@terry 刚刚又研究了一下博主文章他这个用得是Radiance 只支持RDNA4，不支持RDNA3，问了gpt也是这样的结论。如果一定要用，需要自行补齐 RDNA3 内核支持。我也开始尝试移植，看能否成功

[懒人烘培]

@xiongjie-gao 你也来看看~在召唤你呢

[Enigma]

看得心动了，第二张7900XTX已经在路上，准备抄作业

[懒人烘培]

@Enigma 是呀，@xiongjie-gao 作业抄得如何？

[Enigma]

@懒人烘培 说:

@Enigma 是呀，@xiongjie-gao 作业抄得如何？

明天到货啊

[懒人烘培]

@Enigma 这么快，等待你发作业，看能复现不。

[xiongjie gao]

@懒人烘培 你把我的预设打破了，你这双并发的数据比我两组两槽四并发的方案好太多，我都怀疑我这边的调教空间了。

所以多做了几组方案的优化，事实证明是我贪了。超预期那波提升是你的ＣＰＵ承担了部分ＭＯＥ的计算工作。但你这数据是有干货的。

基本结论是以１５％左右的ＴＴＦＴ延时，取得４０％左右的关键数据提升。这生意是挣的
日子也是好起来，从最初未优化４０token／s到现在９０＋，仍觉得还有优化的空间。

[懒人烘培]

@xiongjie-gao 嗯嗯，复现成功了，我也觉得后期还是有优化空间

[terry]

@懒人烘培 可以跑，W7900已经跑通了，它实际上就是7900XTX 48G，你让Agent研究下。主要不是跑起来，而是整个流程的效率提升。目前看测试是单步提升很大，但是总体上只快了一半。

[懒人烘培]

@terry 好的，收到老特

[yin meng]

github上看到了这个https://github.com/nicejunjie/Strata-rdna3，作者好像就是AMD的人，双7900xtx prefill能干到6000+了

[J I]

@yin-meng 我测试过了，贼强，他的master只支持avx512 cpu, avx2的cpu要用这个分支 https://github.com/nicejunjie/Strata-rdna3/pull/1