7900XTX 24G 单卡实测：Strata v0.1.41 → v0.1.43.1 升级到底有没有用（IQ3_XXS / IQ3_S，agent 长上下文逐轮数据）
-
7900XTX 24G 单卡实测：Strata v0.1.41 → v0.1.43.1 升级到底有没有用（IQ3_XXS / IQ3_S，agent 长上下文逐轮数据）
v0.1.43 发布说明里写着「RDNA3 (gfx11) and older keep their 0.1.42 behaviour: we have no such card to measure on」——官方没有 gfx11 的卡可测。但坛里已有 XTX 车主报 IQ3_S 从 60+ 升到 70+ t/s。这篇用同一台机器、同一套确定性负载，把 0.1.41 和 0.1.43.1 各跑一遍 IQ3_XXS 与 IQ3_S，逐轮数据全部公开，顺便 A/B 了两个 0.1.43 的 AMD opt-in 开关。
一、环境
项目 配置 GPU AMD 7900XTX 24G，PCIe 4.0 x16 CPU/内存 Intel ES 14C/20T 定频 5.0/4.0；DDR4-2666 64G（系统可用 ~44G，跑 Strata 时停掉常驻 27B） 引擎 Strata v0.1.41 与 v0.1.43.1（都是 HIP 本地编译，ROCm 10 /data/rocm10，gfx1100） 模型 Qwen3.8-Flash-Next GSQ-RCO（ISTA-DASLab GGUF）IQ3_XXS / IQ3_S 共同参数 int8 KV、spec4（spec-min-p 0.5）、pool-workers 9、resident-experts、expert-cache auto、temperature=0、reasoning_effort=none 差异 XXS：ctx 131072 + MTP；IQ3_S：ctx 32768 + 无 MTP（24G 显存装完 IQ3_S 专家只剩 592MiB） 二、测法（两版本逐 token 可比）
脚本打 OpenAI 兼容端点，agent 循环：每轮追加 ~4.2K token「工具输出」（中/英/代码混合、种子固定、两个版本生成完全相同的内容），模型回 ~200 token，下一轮带全部历史——前缀逐轮累积复用，即 Codex 型会话形态。之后做一次零复用冷填充。指标：TTFT=首字延迟；增量 prefill=本轮新增 token÷TTFT；decode=生成段 t/s；复用率=usage.cached_tokens/prompt_tokens。数字全部来自 usage 与引擎 /metrics 计数器，不是 wall time 估算。
三、结果总表
配置 ctx 上限 decode 中位 (t/s) loop TTFT 中位 增量 prefill 冷填充 (t/s) 末轮复用 草稿接受率 XXS · 0.1.41 131072 113（67-124） 5.0s 841 1211（42.2K/34.9s） 95.9% 84% XXS · 0.1.43.1 131072 117（64-129） 5.2s 808 1172（42.2K/36.0s） 95.9% 89% IQ3_S · 0.1.41 32768 54（45-64） 5.4s 779 1157（29.7K/25.6s） 83.9% 36% IQ3_S · 0.1.43.1 32768 65（45-82） 5.5s 756 1136（29.7K/26.1s） 83.8% 77% XXS · 0.1.43.1 + RESIDENT=1 131072 108*（同窗默认 100） ~5.0s — — — — XXS · 0.1.43.1 + GUMBEL=1 131072 98*（同窗默认 100） ~5.0s — — — 71%（↓） * opt-in 行只跑前 6 轮做 A/B。
头条：IQ3_S 在 gfx11 上升级 0.1.43.1，decode +20%（54→65），热轮 70-82 t/s；XXS +3.5%（113→117）。prefill 两个量化都微降 2-3%，在 agent 会话里被前缀复用掩盖（TTFT 5.0→5.2s）。
四、IQ3_S 逐轮对比（同内容同上下文，差别全在引擎）
轮 41 prompt 41 decode 41 TTFT 41 增量PP 43.1 prompt 43.1 decode 43.1 TTFT 43.1 增量PP 1 4,345 45 6.96 624 4,345 45 7.06 615 2 8,364 54 5.19 733 8,379 53 5.36 709 3 12,795 52 5.45 814 12,838 70 5.47 776 4 17,225 55 5.33 788 17,232 74 5.46 769 5 21,671 57 5.38 787 21,666 82 5.61 755 6 26,085 64 5.47 770 26,080 60 5.57 757 第 3-5 轮从 52/55/57 跳到 70/74/82（+35%~44%），第 1、2、6 轮持平——提速集中在专家驻留热身后的稳态段。机制上 /metrics 草稿接受率从 36% 升到 77%（128/353 → 292/378），spec4 验证窗口明显更有效。
五、IQ3_XXS 22 轮长链（0.1.43.1，滚到 97K 上下文）
轮 PROMPT (tok) REUSED 新增 TTFT (s) 增量prefill (t/s) 生成 (tok) decode (t/s) 1 4,345 0 4,345 6.79 640 199 64 2 8,346 4,338 4,008 5.03 798 195 87 3 12,788 8,542 4,246 5.03 845 223 90 4 17,207 13,012 4,195 4.99 841 205 100 5 21,649 17,412 4,237 5.00 847 213 113 6 26,077 21,642 4,435 5.14 863 211 107 7 30,496 26,288 4,208 5.09 826 201 117 8 35,142 30,697 4,445 5.15 863 230 123 9 39,585 35,372 4,213 5.10 825 208 124 10 43,927 39,793 4,134 5.09 812 212 129 11 48,316 44,139 4,177 5.10 820 219 127 12 52,623 48,534 4,089 5.10 801 243 109 13 57,259 52,867 4,392 5.28 832 226 117 14 61,669 57,485 4,184 5.23 801 222 117 15 66,050 61,891 4,159 5.25 791 226 126 16 70,728 66,276 4,452 5.37 829 222 119 17 74,986 70,950 4,036 5.20 777 226 124 18 79,513 75,212 4,301 5.34 805 247 116 19 83,944 79,761 4,183 5.36 781 228 114 20 88,406 84,175 4,231 5.34 792 246 120 21 92,751 88,654 4,097 5.33 769 226 121 22 96,978 92,981 3,997 5.27 758 243 117 冷填充 42,237 0 42,237 36.0s 1172 224 65 上下文 4.3K→97K，TTFT 全程 5.0-5.4s、decode 热态 108-129——97K 上下文的首字延迟与 4K 时无差别，单轮端到端 ~7.4s。0.1.41 对照（TTFT 4.6-5.2s、decode 108-124）同型，抽样对比：
轮 PROMPT TTFT 41/43.1 增量PP 41/43.1 decode 41/43.1 1 4,345 4.61 / 6.79 943 / 640 67 / 64 2 8,367 4.66 / 5.03 816 / 798 81 / 87 3 12,830 4.79 / 5.03 887 / 845 87 / 90 4 17,218 4.86 / 4.99 905 / 841 96 / 100 5 21,660 4.90 / 5.00 865 / 847 93 / 113 6 26,077 4.85 / 5.14 869 / 863 107 / 107 7 30,481 4.91 / 5.09 857 / 826 109 / 117 8 35,127 5.09 / 5.15 874 / 863 108 / 123 17 74,965 5.05 / 5.20 800 / 777 122 / 124 18 79,500 5.16 / 5.34 834 / 805 111 / 116 19 83,934 5.13 / 5.36 816 / 781 119 / 114 20 88,402 5.15 / 5.34 822 / 792 108 / 120 21 92,748 5.11 / 5.33 803 / 769 117 / 121 22 96,984 5.11 / 5.27 782 / 758 113 / 117 六、opt-in 开关 A/B（0.1.43.1，XXS，前 6 轮）
配置 decode 逐轮 (t/s) 中位 草稿接受率 默认 64 / 87 / 90 / 100 / 113 / 107 100 89% STRATA_ROUTE_RESIDENT=1 66 / 89 / 99 / 110 / 108 / 124 108（+8%） 76% STRATA_SPEC_GUMBEL=1 64 / 78 / 90 / 98 / 105 / 108 98（-2%） 71% - RESIDENT 判胜：引擎把全部专家驻进 RAM（本机 26.94 GiB pageable，日志明说 no file reads），专家缺页从内存交换而不是盘读。代价是 RAM 占用大涨——XXS pack 26.9G + 引擎自身，48G 机器跑 XXS 刚好；IQ3_S 的 pack 48.9G 在 48G 机器上开不了（可用 ~44G），要 64G 内存。
- GUMBEL 判负：XTX 上草稿接受率 89%→71%，速度反而微降。官方说的 AMD +5.7-9% 没在 gfx1100 复现。
七、Monitor 实拍（v0.1.43.1，运行中抓拍，非空闲）
-
strata_xtx_xxs_monitor_431.png：XXS 热身段，TOK/S 79.3 / PREFILL 1028 / HIT 78%+PCIe 22% / Draft accepted 81% / 10,075 专家 16.3G / PCIe 4.0 x16
-
strata_xtx_xxs_monitor_431_hot.png：XXS 热态，TOK/S 96.5 / PREFILL 1011 / HIT 77%+21% / Draft 84% / RAM 34.2/44.0
-
strata_xtx_s_monitor_431.png：IQ3_S，TOK/S 58.6 / PREFILL 835 / Draft 57% / 9,728 专家 19.0G / ctx 32768 / RAM 40.9/44.0
八、升级与回退备注（Linux HIP 自编译）
- 0.1.43.1 与 0.1.41 同配方编译（third_party 复用、
-DSTRATA_ENABLE_HIP=ON、-DCMAKE_HIP_COMPILER_ROCM_ROOT、engine 目标 125 步，-j6 约 90 秒）。坑：源码 zip 自带空third_party/目录，直接cp -r src dst会套一层，要cp -r src/. dst/。 - pack / tokenizer / MTP 跨版本直接复用，无需重打包；0.1.43.1 官方声明答案与 0.1.42 逐字节一致，gfx11 不吃 0.1.42 的 CUDA 默认开关，质量分数沿用即可。
九、结论
- gfx11 车主值得升：官方没测 ≠ 没收益——IQ3_S decode +20% 是实打实的，XXS 也有 +3.5% 和接受率 +5pp；prefill 损失 2-3% 在 agent 会话里被前缀复用掩盖。
- XXS 仍是 24G 卡甜点档：117 t/s / ctx 131072 / 97K 上下文 TTFT 平坦 / 复用 95.9%；IQ3_S 65 t/s 但 ctx 砍 32K、无 MTP。
- 48G 内存机开
STRATA_ROUTE_RESIDENT=1：XXS 再 +8%（热轮 124），代价是 RAM 几乎打满；IQ3_S 要开得 64G 内存。 - GUMBEL 在 gfx1100 上别开。
数据：本目录
data/六个 JSON（两版本×两量化 + 两个 opt-in A/B），每轮 usage 与 /metrics 快照全量留存；0.1.41 基线与 0.1.43.1 由同一脚本同一种子生成，逐 token 可比。 -
-
-
-
