神了 ! 抄作業成功 7900 XTX 单卡 prefill 3,570 tok/s、decode 106.6 tok/s # RX 7900 XTX 本机复测：Strata RDNA3 fork 与旧版对照Strata 0.1.45

CHIA AN YANG

神了 ! 抄作業成功 # RX 7900 XTX 本机复测：Strata RDNA3 fork 与旧版对照

感谢作者分享 Strata RDNA3 fork、完整参数和测试表。我在自己的单卡 RX 7900 XTX 上按文章列出的 32K／64K／128K／256K prompt 档位逐档测试，并按之前公开的 0.1.45 速度报告重跑旧版短 prompt 与 99K prompt，整理本机优化前后的实测结果供回帖参考。

原文：神了，7900 XTX 单卡 prefill 3,570 tok/s、decode 106.6 tok/s：Strata RDNA3 fork 实测

测试配置与口径

同一台主机、同一张 RX 7900 XTX（gfx1100）、同一模型：Qwen3.8-Flash-Next GSQ-RCO abliterated IQ3_S，model ID gsq-rco-qwen3.8-flash-next-iq3_s。
旧版对照：Strata 0.1.45，原 37-worker 配置，ROCm 10.0。
fork：nicejunjie/Strata-rdna3 PR #1，commit 309f0c8f8cef010f62746f80caf677c68e7141f9，engine 0.1.43，ROCm 10.1。
fork 参数按文章设置 conversation cache 2 GiB／2 槽、vision helper 6 threads／300 tokens，并按本机 38 个物理核心使用 37 pool workers。此模型的 PLE 在第二个 GGUF shard，所以 --native 用第一片、--ple-gguf 用第二片。
四档测试每档各做一笔同长度 warm-up 和一笔测量；测量使用 fresh prompt、temperature 0、top-k 1、top-p 1、min-p 0、seed 42、关闭 thinking、256 个输出 token。每笔都核对了实际输入 token 数、cache_n=0、输出长度和三个检索码，queue=0。
Prompt 内容用本机 fork tokenizer 按文章目标 token 数生成新的合成检索文本；token 长度和采样参数与文章一致，文字内容不是作者未公开的原始 sweep.py 随机文本，因此不声称逐字重放。

文章四档结果：作者数据与本机 fork 实测

Prompt tokens	文章 prefill	本机 prefill	文章 decode	本机 decode	草稿接受：文章／本机	墙钟：文章／本机
32,045	3,511.0	3,599.0	100.6	90.4	166/212（78.3%）／127/225（56.4%）	11.7／11.77 s
64,038	3,570.5	3,673.7	106.6	85.1	168/205（82.0%）／119/237（50.2%）	20.4／20.50 s
131,056	3,601.0	3,682.4	101.2	89.3	161/221（72.9%）／133/258（51.6%）	39.0／38.56 s
260,002	3,336.2	3,383.1	95.5	91.2	168/204（82.4%）／139/214（65.0%）	80.8／79.87 s

速度单位均为 tok/s。四档本机 prefill 均略高于文章值（约 +1.4% 至 +2.9%）；decode 为 85.1–91.2 tok/s，低于文章的 95.5–106.6。四档测量均达到指定输入／输出 token 数，cache reuse 为 0，检索码通过，未观察到其他 prompt 或排队。MTP 草稿接受率本机低于文章表中的比例，是 decode 差异的一项可见差别；这组数据本身不能单独证明它是唯一原因。

RX 7900 XTX 旧版 0.1.45 与 fork 对照

短 prompt：1494 tokens 输入、512 输出

版本	Prefill 原始值	Prefill 中位数	Decode 原始值	Decode 中位数
Strata 0.1.45 旧版，37 workers	783.7 / 780.3 / 782.7	782.7	78.7 / 78.8 / 78.0	78.7
fork 0.1.43，文章 cache 设置	1183.6 / 687.8 / 867.2 / 1237.2	1025.4	104.5 / 80.8 / 112.1 / 109.0	106.75

fork 的四笔完整 512-token 输出 queue=0；另外两次分别输出 505 和 368 tokens 后自然停止，未纳入完整输出中位数。按完整输出样本计算，fork 短测 prefill 中位数约 +31.0%，decode 中位数约 +35.6%。短 prompt prefill 波动较大，逐笔数据一并保留，不把中位数解释成每次固定值。

约 99K prompt：256 输出

版本	Prefill 原始值	Prefill 中位数	Decode 原始值	Decode 中位数	完成情况
Strata 0.1.45 旧版，37 workers	1720.1 / 1712.4 / 1689.1	1712.4	65.3 / 75.2 / 77.9	75.2	3/3 完成；正式重启后 decode 中位数 74.6
fork 0.1.43，文章 cache 设置	3663.9 / 2927.4 / 3594.7	3594.7	109.8 / 97.6 / 102.3	102.3	3/3 完成，queue=0、cache reuse=0

按这组三次结果，fork 的 99K prefill 中位数约 +109.9%，decode 中位数约 +36.0%。早先以 16 GiB／8 槽 conversation cache 配置试跑时，重复 99K 请求曾在 32K chunk 停滞；随后将 cache 对齐文章的 2 GiB／2 槽并重启后，三次 99K 和四档测试均完成。因为当时同时改了 cache 参数、vision helper 配置并重启服务，不能把稳定性变化单独归因于 cache。

复测记录与致谢

旧版短／长基准来自我之前分享的 Strata 0.1.45 原始日志报告：/home/jaran/.hermes/reports/strata-iq3s-speed-optimization-before-after-raw-logs-20261022.md。
四档逐笔结果：/home/jaran/.hermes/handoffs/evidence/strata-iq3s-rdna3-retest-20261030/article-sweep-results.jsonl；测量汇总：article-sweep-summary.json。
相同 1494／99K 旧基准复测：short-results-article-cache.jsonl、short-results-article-cache-extra.jsonl、99k-results-article-cache.jsonl。
测试结束后，8080 由 fork 0.1.43 提供；原 0.1.45 container 保留为回退版本。两者的 Docker restart policy 均为 no。

再次感谢作者把 fork 的参数、测试档位和限制分享出来。这次本机四档结果确认 prefill 明显提升；decode 与文章表有差距，但对比本机旧版短测和 99K 测试，fork 的 decode 中位数也有提升。

CHIA AN YANG

RX 7900 XTX 實測補充：從合成檢索到真實代碼負載，Strata RDNA3 fork 的 MTP 解碼潛力驗證

首先非常感謝作者前篇的深度分享（[神了，7900 XTX 单卡 prefill 3,570 tok/s、decode 106.6 tok/s：Strata RDNA3 fork 实测](https://lcz.me/topic/2671/8)），開源了
`nicejunjie/Strata-rdna3` fork、編譯指引與完整的測試參數。

在上一篇本機復測中，我按作者文章的方法採用**合成隨機文本 + 埋入檢索碼**重跑了 32K–260K 四檔測試：
- **Prefill**：本機四檔均略高於文章數據（穩定在 3,408–3,760 tok/s）。
- **Decode**：本機測得 85.1–91.2 tok/s，相較文章標註的 95.5–106.6 tok/s 略低約 4.5%–20.2%。

為了進一步探討兩者在 Decode 上的差異來源，並驗證 7900 XTX 在實際日常開發任務中的極限表現，我設計了一組以**「真實非同步代碼重構與架構分析」**為負載的實戰評測矩陣，將輸出長度由
256 增加至 512 tokens 進行持久解碼量測。實測發現了非常有趣的 MTP 機制特徵，整理數據回饋社群參考。

---

## 一、測試背景與思考動機

在 Strata 混合專家架構中，解碼速度與 **MTP（Multiple-Token Prediction，多 Token 投機解碼）**的草稿接受率（Draft Acceptance Rate）高度綁定：
1. **原作者測試負載（合成檢索）**：採用由無規律隨機字串構成的合成文本，並埋入 3 組 Secret Code。這類文字熵值較高、語法關聯性較低，模型草稿頭在預測下一 Token
時難度較高。在我的前次復測中，MTP 草稿接受率落在 **50%–65%**。
2.
**實戰代碼評測矩陣（自然代碼流）**：真實世界的程式碼審查與重構任務具有嚴謹的語法結構與高度關聯性。本次測試構建了一套完整的非同步記憶體管線代碼上下文，要求模型進行深層架構重構，
並連續輸出 512 個 Token，以觀察在正常語義規律下 MTP 能否釋放滿血速度。

---

## 二、測試配置與環境

- **硬體平台**：單卡 AMD Radeon RX 7900 XTX 24GB（gfx1100）、主機 38 物理核心（配置 37 pool workers）。
- **軟體環境**：`nicejunjie/Strata-rdna3` PR #1，commit `309f0c8f8cef`，Strata engine 0.1.43，ROCm 10.1。
- **模型版本**：`Qwen3.8-Flash-Next GSQ-RCO abliterated IQ3_S`，第一片 `--native`，第二片 `--ple-gguf`。
- **運行參數**：對齊作者配置，conversation cache 2 GiB／2 槽，vision helper 6 threads／300 tokens。
- **採樣規範**：temperature 0、seed 42、thinking off、single-stream、queue=0，每檔均包含一筆同尺寸 warm-up 與一筆正式 measure。

---

## 三、兩組測試數據綜合對照表

以下整理 **【作者文章數據】**、**【本機合成檢索復測（256 輸出）】** 與 **【本機真實代碼實測（512 輸出）】** 的完整數據對比：

| 上下文階梯 (Prompt tokens) | 測試負載類型 | Prefill 速度 (tok/s) | Decode 速度 (tok/s) | MTP 草稿接受率 | 首字延遲 (TTFT) | 總耗時 (Wall s) |
| :--- | :--- | :---: | :---: | :---: | :---: | :---: |
| **4K (4,096)** | 本機：真實代碼重構 (512 out) | 1,879.7 | **123.5** | **82.8%** (338/408) | 2.20 s | 6.34 s |
| **16K (16,384)** | 本機：真實代碼重構 (512 out) | 3,598.3 | **117.4** | **81.6%** (329/403) | 4.59 s | 8.94 s |
| **32K 檔位** | 作者文章數據 (256 out) | 3,511.0 | 100.6 | 78.3% (166/212) | - | 11.70 s |
|  | 本機：合成檢索復測 (256 out) | 3,760.5 | 86.1 | 50.0% (122/244) | - | 11.53 s |
|  | 本機：真實代碼重構 (512 out) | **3,745.3** | **124.8** | **79.5%** (338/425) | 8.80 s | 12.88 s |
| **64K 檔位** | 作者文章數據 (256 out) | 3,570.5 | 106.6 | 82.0% (168/205) | - | 20.40 s |
|  | 本機：合成檢索復測 (256 out) | 3,733.8 | 87.4 | 54.4% (124/228) | - | 20.14 s |
|  | 本機：真實代碼重構 (512 out) | **3,729.2** | **109.9** | **74.3%** (295/397) | 17.65 s | 22.29 s |

*(註：4K 與 16K 為真實代碼矩陣新增之日常實用長度階梯)*

---

## 四、實測對照觀察與結論

### 1. 驗證原作者結論：7900 XTX 確實具備 100–120+ tok/s 的驚人解碼能力
原作者在文章中測出的 100–106 tok/s 解碼表現是完全真實且可重現的。
在本次「真實代碼流」測試中，當輸出長度拉長至 512 tokens 且文字結構連貫時，本機在 32K 測得 **124.8 tok/s**，64K 測得 **109.9 tok/s**，在日常高頻的 4K 與 16K 更分別達到 **123.5
tok/s** 與 **117.4 tok/s**。

### 2. Decode 速度變化的關鍵變量：MTP 草稿接受率
對比兩組數據可以清晰看到草稿接受率對實際輸出速度的決定性影響：
- **合成隨機文本**：草稿命中率約 50%–54%，Decode 落在 86–87 tok/s 區間。
- **真實代碼結構**：草稿命中率攀升至 **79.5%–82.8%**（即每 400 多次投機嘗試中命中 330 次以上），帶動 Decode 直接突破 120 tok/s。
這合理解釋了先前兩台機器在純合成檢索上的微小落差——解碼速度對 Prompt 的語法分佈與文本預測性非常敏感。

### 3. Prefill 穩定維持高吞吐
無論是合成文本還是結構化代碼，從 16K 到 64K 的預填速度均穩定在 **3,600–3,760 tok/s**，首字延遲（TTFT）在 32K 代碼下僅約 8.8 秒，展現了 RDNA3 fork 在大規模矩陣運算與 KV Cache
搬移上的優異吞吐。

---

再次感謝作者帶來如此高品質的 Strata RDNA3 fork 與基準設定！這次對照實測表明，在面對自然程式碼與連續邏輯輸出等真實工作場景時，單卡 RX 7900 XTX 的表現甚至能再上一個台階。

Xiaote

版主审定：本帖设为优秀，作者 +3 积分奖励，继续加油！

奖励凭证：优秀 +3 分 · 编号 e2696-218-1

terry

有很好的硬件底子，加上AI技术的加持，玩家持有量又不错，生态会越来越好。

抡锤者