X99 + DDR3-1866 四通道实战：AMD RX 7900 XT 20G 跑 76B 级大模型（Strata 引擎）测试报告
遵循论坛 1987、2109 与 2270 篇格式，不写玄学，只写这台机器的真实配置、验证到哪一步、核心实测数据，以及与 2270 帖（7900 XTX 24G 平台）的横向对比。
本次测试在 128GB 内存跑满 DDR3-1866 四通道、290W 默认功耗并开启全核心 Performance 性能模式下完成全流程纯净测试。
一、硬件规格与运行前提
【核心硬件】
| 部件 | 规格 |
|---|---|
| 显卡 (GPU) | AMD Radeon RX 7900 XT 20GB (XFX 海外版，Navi 31 / gfx1100，84 CU，320-bit，带宽 800 GB/s) |
| 显卡功耗 | 290 W (默认满血上限，无外部功耗墙限制) |
| 处理器 (CPU) | Intel Xeon E5-2666 v3 @ 2.90GHz（已刷 BIOS 鸡血补丁 / Turbo Boost Unlock，实测高压满载 10 核 20 线程全核锁定 3.50 GHz，25MB 三级缓存，支持 AVX2） |
| CPU 调频策略 | Performance 性能模式（锁定全核心最高性能，杜绝调度延迟） |
| 系统内存 | 128GB DDR3-1867 满血四通道（4 根 32GB SK Hynix 4Rx4 ECC，实测运行频率 1866 MT/s，四通道理论带宽 59.7 GB/s） |
| 系统固态 | NVMe M.2 PCIe 固态硬盘（512GB，模型载入速率约 3.10 GiB/s） |
【软件与引擎栈】
| 项目 | 配置 |
|---|---|
| 操作系统 | Ubuntu 24.04.5 LTS (Linux 内核 7.0.0-38-generic) |
| ROCm 环境 | ROCm 10.1.0（挂载配套 gfx1100 hipBLASLt 26 组 GEMM 调优配置） |
| 推理引擎 | Strata (engine v0.1.41) |
| 量化权重 | Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS（约 76 GB 纯文字版 GGUF + PLE 专家权重 + MTP 投机加速头） |
| 上下文配置 | 开启 524,288 tokens（512K 上下文配置，本次高压测试至 128K 边界），int8 KV 缓存，--spec 4，--conversation-cache-mib 8192 |
| 显存常驻分配 | --kv-resident 32768，--vram-reserve-mib 2048（常驻显存专家槽位 7,169 个，显存占用 20.0 GB / 20.4 GB，系统内存占用约 69 GB） |
二、核心实测数据汇总
测试规范：严格杜绝客户端外层壁钟计时，统一直接读取 Strata 引擎底层日志每 Request 的真实硬件计数器。长上下文测试每次注入全局唯一随机 Session 标识，强制执行纯冷 Prefill。各项数据取 3 次独立测试的中位数。
【1. 短提示词解码性能（输出 300 tokens）】
| 采样次数 | 输入 | 解码速度 | MTP 接受率 |
|---|---|---|---|
| 第 1 次 | 71 tok | 42.7 tok/s | 64.11% |
| 第 2 次 | 78 tok | 47.4 tok/s | 58.88% |
| 第 3 次 | 76 tok | 50.2 tok/s | 61.01% |
★ 短提示解码中位数：47.4 tok/s（峰值突破 50.2 tok/s；若在复杂代码与结构化单文件生成任务中可达 60.6 tok/s）
【2. 长上下文 Prefill 吞吐率与解码速度（各 3 次采样中位数）】
| 上下文 | 实测输入 | Prefill 速度 | 解码速度 | KV 显存驻留率 |
|---|---|---|---|---|
| 8k | 12.8k | 1192.0 tok/s（耗时 10.7 秒） | 50.3 tok/s（峰值 57.9） | 94.9% |
| 32k | 50.8k | 1218.7 tok/s（耗时 41.7 秒） | 66.4 tok/s（峰值 72.9） | 90.5% |
| 48k | 76.9k | 1237.7 tok/s（耗时 62.1 秒） | 67.0 tok/s（峰值 72.8） | 90.2% |
| 128k | 127,718 | 1213.1 tok/s（耗时 105.2 秒） | 71.2 tok/s（峰值 71.8） | 89.7% |
128k 超长极限：每轮仅从主机内存流式换入约 200MB KV 块。
【3. 多轮对话前缀缓存复用率】
| 轮次 | 输入 | 重用 | 增量 | 前缀重用率 | Prefill 耗时 | 解码 |
|---|---|---|---|---|---|---|
| 第 1 轮冷启动 | 6,454 tok | — | — | — | 951.9 tok/s | 51.0 tok/s |
| 第 2 轮跟进 | 6,590 tok | 6,449 tok | 141 tok | 97.86% | 1019 ms | — |
| 第 3 轮跟进 | 6,715 tok | 6,585 tok | 130 tok | 98.06% | 880 ms | — |
三、与论坛 2270 帖（7900 XTX 24G 平台）深度对比分析
【数据横向对比】
| 测试项 | 2270 帖（7900 XTX） | 本机（7900 XT） | 对比结果 |
|---|---|---|---|
| 8k Prefill | 1237 tok/s | 1192.0 tok/s | 达到 96.4% |
| 8k 解码 | 51.0 tok/s | 50.3 tok/s | 基本持平 |
| 32k Prefill | 1286 tok/s | 1218.7 tok/s | 达到 94.8% |
| 32k 解码 | 61.0 tok/s | 66.4 tok/s | 反超 8.9% |
| 48k Prefill | 1242 tok/s | 1237.7 tok/s | 达到 99.7% |
| 48k 解码 | 74.0 tok/s | 67.0 tok/s | 达到 90.5%（峰值 72.8） |
| 128k 超长 Prefill | 1149 tok/s（80k） | 1213.1 tok/s（128k） | 超越原帖 80k 速度 |
| 128k 超长解码 | 64.0 tok/s（80k） | 71.2 tok/s（128k） | 超越约 11.3% |
| 短提示解码中位数 | 74.5 tok/s | 47.4 tok/s | 存在差距（复杂代码可达 60.6） |
【为什么长上下文能追平甚至反超，而短提示仍有差距？】
1. 长上下文 Prefill 为何极其强悍（1200+ tok/s）
- DDR3 四通道跑满 1867 MT/s，总线理论带宽 59.7 GB/s
- 主板 PCIe 实际探测带宽达到 13.5 GB/s
- 配合 290W 满血功耗与 hipBLASLt GEMM 调优算子，Prefill 大块矩阵乘法彻底打满 Navi 31 的 84 个计算单元
2. 长上下文解码为何能突破 71 tok/s
- 启用
--kv-resident 32768流式机制 - 12.8 万极端上下文下，显存 KV 命中率仍高达 89.7%，单轮仅换入约 200MB KV 块
- 长序列注意力缓存局部性好，MTP 投机接受率明显提升
3. 短提示解码存在客观差距的物理原因
- 7900 XTX 24GB 可常驻 9,000+ 个专家；7900 XT 20GB 扣除 2048MB 桌面预留后，实际常驻 7,169 个
- 高熵自然语言问答中，约 2,000 个未常驻长尾专家需通过 PCIe 3.0 回落到主机内存或由 CPU 计算
- E5-2666 v3（10C/20T）比 2270 帖的 E5-2673 v3（12C/24T）少 2 核 / 4 线程和 5MB 三级缓存
- 但鸡血补丁全核锁定 3.50 GHz，高频单核吞吐明显优于未超频的 2.40~2.70 GHz，拉回了部分核心差距
四、结论与心得
1. X99 + DDR3-1867 四通道的实战潜力
在老旧的 Haswell + X99 平台上，只要内存总线稳固运行在 DDR3-1867 四通道满血状态，配合 Strata 引擎的分层调度，Prefill 吞吐完全可以稳定轰出 1,200 ~ 1,240 tok/s 的顶格表现，彻底打破了“老平台带不动超大模型 Prefill”的刻板印象。
2. 超长上下文的工程实用价值
在面对真实工程中最吃力的 12.8 万 Tokens 超长冷上下文时，整套系统仅耗时 105 秒即可完成全部预填充，且解码速度稳定在 71.2 tok/s，显存零崩溃、系统零卡死。对于代码审计、长文档分析以及单文件代码生成等生产级超长文本任务，具有极高的实战价值。