<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[【抄作业】单张 7900 XTX 跑 Qwen3.8-Flash-Next：Strata 原版调优，Decode 67.8 → 107.4 tok/s（+58%）]]></title><description><![CDATA[<p dir="auto">继续折腾这台 X99 洋垃圾，目标是让单张 RX 7900 XTX 上的 Strata 跑 Qwen3.8-Flash-Next 吐字速度更快。这次没有重新编译 RDNA3 fork，也没有改 Strata 源码，主要检查官方 hipBLASLt 调优表、逐组测试启动参数，最后打开自适应专家缓存。<br />
先交成绩（同机、同一天、10.2K token prompt、每组取三次中位数）：<br />
<img src="https://upload.lcz.me/uploads/1a66ed52-7cef-4aac-9dee-d3128ae1cc62.png" alt="屏幕截图 2026-11-03 131033.png" class="img-markdown  img-fluid" /></p>
<p dir="auto">先说明口径： 这是 GPU0 单卡上的 Strata，虽然机器装了两张 7900 XTX，GPU1 还运行另一个 27B llama 服务，但本次并非 TP=2，也不是两卡聚合吞吐。数值取自引擎返回的 <code>timings</code>，不是客户端墙钟；最终成绩是在预热后测得，冷启动第一发明显较慢。</p>
<p dir="auto"><strong>一、硬件和运行环境</strong><br />
项目	配置<br />
CPU	Xeon E5-2696 v3，18 核 / 36 线程<br />
主板	华南金牌 X99-TF GAMING<br />
内存	128 GB DDR3-1866 RECC，四通道<br />
GPU	2 × RX 7900 XTX 24 GB（gfx1100）；本次 Strata 仅使用 GPU0，GPU1 另跑 27B llama 服务<br />
系统	Ubuntu 24.04.5 LTS，内核 <code>7.0.0-38-generic</code><br />
ROCm	7.2.0<br />
引擎	Strata 0.1.50，<code>rx7900</code> variant，<code>f-amd-vision</code> commit <code>6270e2d9d6bf</code><br />
hipBLASLt	引擎自带库版本 <code>100200</code><br />
模型	Qwen3.8-Flash-Next GSQ-RCO IQ3_S，双 shard（<code>--native</code> + <code>--ple-gguf</code>）<br />
上下文	262,144，<code>--kv int8 --kv-resident 32768</code><br />
专家内存策略	<code>--ple-io ram --expert-cache auto</code><br />
其余基线参数	<code>--pool-workers 30 --vram-reserve-mib 3072 --prefill auto:32768 --spec 4 --spec-min-p 0.5</code><br />
模型加载约 2.5 分钟，峰值内存约 104 GB。128 GB 内存并不宽裕，但这套配置能跑。</p>
<p dir="auto"><strong>二、怎么测，避免缓存和预热干扰</strong><br />
先用约 500 词的小 prompt 热身，再送入约 10.2K token 的长 prompt 预热，然后用相同长度的请求正式测试。<br />
每调整一组配置，通过 <code>systemctl restart strata-next</code> 重启服务；每组连续跑三次，以中位数记成绩。<br />
Prefill 用引擎 <code>timings.prompt_per_second</code>（PP），Decode 用 <code>timings.predicted_per_second</code>（TG）；不是前端看到的整体响应速度。<br />
测试在同一天、同一台机器上完成，后台没有下载任务。这里的对照仍是单机实测，不代表其他 CPU、内存及模型配置也有相同收益。<br />
注意：自适应缓存会随着连续请求逐步进入较好的状态。因此这份帖子里的“最终成绩”是预热后的吞吐，不是重启服务后第一发吞吐。</p>
<p dir="auto"><strong>三、逐组调参结果（10.2K token prompt）</strong><br />
<img src="https://upload.lcz.me/uploads/f121b580-288d-46c5-8ef4-f8fdc2dec30f.png" alt="屏幕截图 2026-11-03 131227.png" class="img-markdown  img-fluid" /></p>
<p dir="auto">以上是各阶段的测量记录，不是一张所有参数逐项独立控制的消融表；中间测试后有些选项已经回退，不能把每行简单理解为在上一行基础上永久叠加。</p>
<ol>
<li>最大的收益来自自适应专家缓存这一组<br />
在自适应参数尚未打开时，Decode 基本在 64–69 tok/s 附近。加入下面这组设置后，预热后的速度上到了 103–108 tok/s：</li>
</ol>
<pre><code class="language-bash">--adapt-every 1 --adapt-swaps 160 --adapt-decay 0.97
</code></pre>
<p dir="auto">引擎日志里能看到专家缓存命中率约 94.8%–99.8%。从现象看，自适应缓存能更及时地调整 VRAM 中的热专家，减少重复搬运，正好对上这台 X99 + DDR3 的瓶颈。<br />
严格说： 这三个参数是一起加入的，没有分别拆开测试 <code>adapt-every</code>、<code>adapt-swaps</code> 和 <code>adapt-decay</code>。所以能确定的是开启这组自适应缓存设置后，Decode 显著提升；不能把 +58.4% 全部精确归因于其中某一个参数。<br />
2. 自适应缓存必须看预热后的成绩<br />
最终配置在同一服务中连续六发的 Decode：<br />
<img src="https://upload.lcz.me/uploads/a110ccc8-b3a5-4543-a7d5-f62730f8704e.png" alt="屏幕截图 2026-11-03 131310.png" class="img-markdown  img-fluid" /></p>
<p dir="auto">只测第一发会低估效果。反过来，比较不同参数时，也应尽量采用一致的预热方法，否则很容易把缓存状态误当成性能差异。</p>
<p dir="auto"><strong>3. Prefill 的提升相对有限</strong><br />
Prefill 从 2,095 到 2,220 tok/s，约 +6.0%。主要调过三个地方：</p>
<pre><code class="language-bash"># STRATA_HIPBLASLT_TUNING 应指向实际存在且版本匹配的调优表文件
STRATA_HIPBLASLT_TUNING=/实际路径/gfx1100-hipblaslt-100200.txt
STRATA_PF_SWITCH_MIN_T=4096
STRATA_IO_THREADS=32
</code></pre>
<p dir="auto">这里的 <code>/实际路径/</code> 是占位符，请替换为自己机器上的真实文件位置，不是直接可执行的完整配置。三项共同调整后的阶段成绩是 2,198 tok/s，后续其他参数调整后最终为 2,220 tok/s。没有逐项单测这三个参数各贡献多少。<br />
原先把 <code>STRATA_HIPBLASLT_TUNING</code> 写成了 <code>"1"</code>，并不是有效表路径；引擎没有明显报错，导致排查方向一度跑偏。调优表名称中的 <code>100200</code> 要与这套引擎自带的 hipBLASLt 版本对应，不能只看系统 ROCm 版本。</p>
<p dir="auto"><strong>4. <code>pool-workers</code> 不一定越接近物理核数越好</strong><br />
这台 E5 是 18 核 36 线程。我试着把 <code>--pool-workers</code> 从 30 降到 18，Decode 从 68.9 跌到 63.8 tok/s，反倒更慢。最后仍使用 30。<br />
所以论坛里关于 worker 数量的经验可以参考，但不能只根据 CPU 的物理核数直接照搬，尤其是 X99 + DDR3 + CPU 侧专家流这种组合。</p>
<p dir="auto"><strong>四、128K 长上下文单次结果</strong><br />
最终配置测了约 127K token 输入、64 token 输出：<br />
指标	实测<br />
Prefill	3,007 tok/s<br />
Decode	82.9 tok/s<br />
单发墙钟	43.0 s<br />
这一档没有做修改前的同口径基线，因此只分享最终配置的绝对性能，不计算“128K 提升百分比”。而且只测了一发，属于趋势参考，不宜当成稳定的多轮均值。<br />
还试过 <code>STRATA_SCORES_THREAD=1</code>：在本机 128K 测试里开关两边的数值区间约 2,956–3,024 tok/s，暂未看到可辨认的收益，就删掉了。</p>
<p dir="auto">五、哪些参数可以参考，哪些不要照抄<br />
这次是原版 Strata 0.1.50 的 <code>rx7900</code> variant。参考论坛其他作者的调优帖时发现，一些变量只存在于他们自编译的 RDNA3 fork，本机这个二进制并没有对应实现。<br />
类型	参数或变量	本机结论<br />
本轮收益最明显	<code>--adapt-every 1 --adapt-swaps 160 --adapt-decay 0.97</code>	组合开启后，热态 Decode 显著提升<br />
有一定收益	正确 hipBLASLt 调优表、<code>STRATA_PF_SWITCH_MIN_T</code>、<code>STRATA_IO_THREADS</code>	组合调整后 Prefill 有小幅提升<br />
本轮无明确 Decode 收益	<code>--lookup-chain</code>、<code>--ple-row-cache</code>、<code>GPU_MAX_HW_QUEUES</code>、<code>--mtp-window</code>	不建议期待通用加速<br />
本轮未见收益	<code>STRATA_SCORES_THREAD=1</code>	删除<br />
测试后回退	<code>--pool-workers 18</code>	比 30 慢<br />
以下 10 个变量在本次使用的 0.1.50 二进制中未找到对应字符串，属于参考帖中 RDNA3 fork 的实现路径，不要直接把它们塞进原版配置后期待生效：</p>
<pre><code class="language-text">STRATA_RDNA_MMVQ_WAVE
STRATA_PF_GROUP_RES
STRATA_PREFILL_MMQ_TILE_ROWS
STRATA_GDN_CHUNK_GDV
STRATA_PA_KLDS
STRATA_COMBINE_CPU
STRATA_WAIT_FUSE
STRATA_ROUTE_PUBLISH
STRATA_GR_INJ_UP
STRATA_GR_FUSED
</code></pre>
<p dir="auto">例如论坛里用 <code>STRATA_RDNA_MMVQ_WAVE=3</code> 改 native_mmvq 内核布局得到的 Decode 提升，是自编 fork 的路线；这篇的 +58.4% 则是在当前 Strata 0.1.50 上调整运行参数得到的，两者不要混为一谈。</p>
<p dir="auto"><strong>六、这轮最值得记下来的坑</strong><br />
hipBLASLt 表路径写错会静默降级。 <code>STRATA_HIPBLASLT_TUNING</code> 要写真实路径，文件头版本与引擎库配对；不要写 <code>"1"</code> 当作开关。<br />
不要只看冷启动第一发。 这次自适应缓存首发只有 79.0 tok/s，第二发已到 104.6 tok/s。<br />
worker 数不是按物理核心数拍脑袋。 本机 30 比 18 快。<br />
一次只改一组变量并重启对照。 这台机器跨时段 Decode 本身会波动，混着改参数很难定位收益来源。<br />
别把 RDNA3 fork 参数直接抄进原版二进制。 有些变量对当前构建根本没有作用。</p>
<p dir="auto">感谢论坛几位作者的测试与资料：<br />
#2745：7900 XTX 单卡 Prefill / Decode 调优，空语；其中 7、14、15 楼还有 Y G 0 的 X99 实测数据。<br />
#2694：双 7900 XTX Strata IQ3_S、262K Prefill，懒人烘培。<br />
#2562：7900 XTX 跑 125B MoE 的 X99 旧平台实测，sbbdog。<br />
Strata 仓库内 <code>docs/AMD_HIP_PERFORMANCE.md</code>、<code>docs/AMD_HIP.md</code>、<code>docs/TROUBLESHOOTING.md</code>。<br />
以上数据都是自己这台机上的测试记录，欢迎用相同口径交流，尤其想看看其他 X99/DDR3 平台上 <code>adapt</code> 的收益是否也这么明显。</p>
]]></description><link>https://lcz.me/topic/2804</link><generator>RSS for Node</generator><lastBuildDate>Mon, 09 Nov 2026 11:54:23 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2804.rss" rel="self" type="application/rss+xml"/><pubDate>Tue, 03 Nov 2026 05:16:29 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 【抄作业】单张 7900 XTX 跑 Qwen3.8-Flash-Next：Strata 原版调优，Decode 67.8 → 107.4 tok/s（+58%） on Thu, 05 Nov 2026 04:37:19 GMT]]></title><description><![CDATA[<p dir="auto">抄 Wang Wei（<a href="http://lcz.me" rel="nofollow ugc">lcz.me</a> #2804）两套配置实测 vs 基线</p>
<p dir="auto">臂改动引擎账本 decode 中位草稿接受率结果基线现役 0.1.56 配置53.1（52.4–54.6）~80%参照B（全抄）+expert-cache auto / prefill auto:32768 / kv-resident 32768 / vram-reserve 3072~42.2（41.6–43.3）63–69%−21%A（只抄可移植）+pool-workers 30 / spec-min-p 0.5 / adapt-decay 0.97 / PF_SWITCH_MIN_T 4096 / IO_THREADS 3250.7（49.1–54.7）62–69%−4.5%仪器：probe_speed.py 1024 6，六轮 out=1024 全干净，取引擎账本 decode 列。为什么输<br />
B：expert-cache auto + vram-reserve 3072 把 GPU 专家缓存从 7498 槽压到 ~6204，非专家显存预留又挤掉缓存 → 命中下降；spec-min-p 0.5 同时把接受率打掉。两个负面叠加 = −21%。他那台是双 7900XTX 用 GPU0、峰值 RAM 104 GB，显存/内存预算比我们宽得多，auto 对他安全、对我们是降级。<br />
A：唯一实质伤害是 --spec-min-p 0.5（我们 0.7）——接受率 80%→65% 直接把 decode 拖到 50.7。pool-workers 30/PF_SWITCH_MIN_T/IO_THREADS 在本机短提示测不出红利（他的收益在 prefill 侧、且依赖 hipBLASLt 表命中）。<br />
决定：两臂都没跑赢，已全部回退，配置字节级等于备份基线（226d2892）。按规矩不写上游档。</p>
]]></description><link>https://lcz.me/post/31207</link><guid isPermaLink="true">https://lcz.me/post/31207</guid><dc:creator><![CDATA[ma yi]]></dc:creator><pubDate>Thu, 05 Nov 2026 04:37:19 GMT</pubDate></item><item><title><![CDATA[Reply to 【抄作业】单张 7900 XTX 跑 Qwen3.8-Flash-Next：Strata 原版调优，Decode 67.8 → 107.4 tok/s（+58%） on Wed, 04 Nov 2026 14:38:35 GMT]]></title><description><![CDATA[<p dir="auto">强悍！~这是可以作为token自由了~</p>
]]></description><link>https://lcz.me/post/31054</link><guid isPermaLink="true">https://lcz.me/post/31054</guid><dc:creator><![CDATA[PhilipShi2026]]></dc:creator><pubDate>Wed, 04 Nov 2026 14:38:35 GMT</pubDate></item><item><title><![CDATA[Reply to 【抄作业】单张 7900 XTX 跑 Qwen3.8-Flash-Next：Strata 原版调优，Decode 67.8 → 107.4 tok/s（+58%） on Wed, 04 Nov 2026 00:00:50 GMT]]></title><description><![CDATA[<p dir="auto">呃，让ai改配置后又否定了……</p>
<p dir="auto">开始写入。先备份并确认两份配置的 args 尾部结构：<br />
两份配置都写入成功（无 BOM，与主配置只差这三个参数）。现在用<strong>生产配置本体</strong>跑一轮完整确认，既是验收，也是以后的正式基线：<br />
生产配置的检验已完成。现在把三组数据对比一下：<br />
生产配置的验证结果不干净，先查清原因，再下结论：<br />
这两侧的行为完全一致（base 与 pafast 逐项相同、连草稿数都一样），说明台架本身是<strong>确定性</strong>的。那么我就可以直接对比文本，判断 adapt 是否改了答案：<br />
三参已经写入主配置与 esp，并用<strong>生产配置本体</strong>复跑了一轮复核。结果是：写入成功，但复核暴露了一个我上一轮没看到的问题，得跟你摊开讲。</p>
<h2>生产配置复核（131K×3）</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>run</th>
<th>base（改前）</th>
<th>adapt（副本）</th>
<th>prod（生产配置）</th>
</tr>
</thead>
<tbody>
<tr>
<td>1</td>
<td>99.8</td>
<td>105.2 (+5.41%)</td>
<td><strong>110.2 (+10.42%)</strong></td>
</tr>
<tr>
<td>2</td>
<td>122.9</td>
<td>132.2 (+7.57%)</td>
<td><strong>114.7 (−6.67%)</strong></td>
</tr>
<tr>
<td>3</td>
<td>121.2</td>
<td>127.8 (+5.45%)</td>
<td><strong>124.1 (+2.39%)</strong></td>
</tr>
<tr>
<td>均值</td>
<td>114.6</td>
<td>121.7 (+6.1%)</td>
<td>116.3 (+1.5%)</td>
</tr>
</tbody>
</table>
<p dir="auto">prefill 与启动指纹依旧无变化（+0.19/+0.03/−0.61%，ready 56.1 s、11,371 槽）。</p>
<h2>为什么 +6% 站不住</h2>
<p dir="auto"><code>adapt</code> 和 <code>prod</code> 是<strong>同一组参数</strong>，却跑出 132.2 与 114.7，差 15%。我顺着查了文本哈希，发现两件事：</p>
<p dir="auto"><strong>一、台架本身是可复现的。</strong> base 与 pafast 属等价配置，三次输出 sha256 <strong>逐字节相同</strong>（<code>ce0b81f8 / a2c22be2 / 61d99364</code>），连草稿数 <code>153/227</code>、<code>157/228</code>、<code>152/212</code> 都一模一样。所以不是台架噪声。</p>
<p dir="auto"><strong>二、adapt 打破了这种可复现性。</strong> 同一配置的两个会话，run-1 文本相同（<code>75d2efd598df</code>），但 run-2/3 开始互相分歧（首个分歧位置 @306 vs @72）；而且它跟 base 必然不同（@306 / @111）——<strong>确实改答案</strong>，且改法不稳定。</p>
<p dir="auto">拆开归因：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th>能否归因于配置</th>
<th>结论</th>
</tr>
</thead>
<tbody>
<tr>
<td>命中率</td>
<td>能（三轮全抬高）</td>
<td>94.4→96.3、98.7→98.9、98.7→99.3 ⇒ 真实</td>
</tr>
<tr>
<td>run-1 decode</td>
<td>能（两会话同向 +5.4%/+10.4%）</td>
<td>冷缓存起点收益真实</td>
</tr>
<tr>
<td>稳态 decode</td>
<td>不能（草稿接受率 63.5%~78.3% 漂移主导）</td>
<td>不可归因</td>
</tr>
<tr>
<td>端到端</td>
<td>—</td>
<td>decode 只占 20% ⇒ <strong>+0.5%~1%</strong></td>
</tr>
</tbody>
</table>
<p dir="auto"><strong>一句话：真实收益是命中率 +0.2~1.9 个百分点、端到端约 1%；代价是任何 A/B 的 decode 侧从此失去可比性，同一提示词换会话可能给不同答案。</strong> 我之前说"三轮同向、值得采纳"，是被 run-N 的表面一致性误导了——这轮复核否掉了它。</p>
<p dir="auto">现场状态：配置已写入，服务已停，8080 空闲，<code>git status</code> 仍只有既有 2 个未跟踪项、<code>git diff</code> 为空。备份在 <code>.workbuddy/tmp/backup-20261104-pre-adapt/</code>。<br />
收到，回退。<br />
已回退，现场干净。</p>
<h2>回退结果</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项</th>
<th>状态</th>
</tr>
</thead>
<tbody>
<tr>
<td><code>strata-swift-iq3_s.json</code></td>
<td>sha256 回到 <code>d3fbb4d6…0ee6</code>，与改前<strong>逐字节相同</strong>，args 41 项，无任何 <code>adapt-*</code></td>
</tr>
<tr>
<td><code>strata-swift-iq3_s-esp.json</code></td>
<td>同步回退，args 50 项，无 <code>adapt-*</code></td>
</tr>
<tr>
<td>备份</td>
<td><code>.workbuddy/tmp/backup-20261104-pre-adapt/</code>（保留）</td>
</tr>
<tr>
<td>A/B 副本与引擎日志</td>
<td>移入 <code>ab-harness/adapt-pafast-20261104/configs/</code></td>
</tr>
<tr>
<td>仓库自检</td>
<td><code>git status</code> 仅既有 2 个未跟踪项、<code>git diff</code> 为空</td>
</tr>
<tr>
<td>环境</td>
<td>8080 空闲、显存 1,603 MiB</td>
</tr>
</tbody>
</table>
<h2>这次跑出来的真结论</h2>
<p dir="auto"><strong>PA_FAST 永久划掉。</strong> 它在 CUDA 构建里根本不存在（<code>strata.exe</code> 里 0 次命中，同族 <code>PA_TRIM</code>/<code>PA_RPF</code>/<code>HIP_WMMA_MIN_Q</code> 也全是 0；它是 gfx11/gfx12 的 WMMA 路径）。<code>STRATA_PF_SWITCH_MIN_T</code> 在我们这里是死代码。这条同时被实测印证：pafast 与 base 三次输出 sha256 逐字节相同。</p>
<p dir="auto"><strong>adapt 三参不采纳。</strong> 表面 +5.4~7.6%，用生产配置复跑只有 +1.5%（run-2 还倒退 6.7%）。根因是同配置的两个会话结果不一致——而 base/pafast 这种等价配置能逐字节复现，说明破坏来自换专家路径的时序依赖。端到端约 1%，换掉可复现性不划算。</p>
<p dir="auto"><strong>顺带得到一条方法论。</strong> 这次差点被 run-N 的表面同向骗过去（我上一轮就是这么下的判断）。以后凡"可能改答案"的改动，A/B 必须加一步：<strong>同配置跑两个会话，比对文本 sha256</strong>。因为 decode 速度会被生成文本的草稿接受率拖着走（本次在 63.5%~78.3% 之间飘），不先确认文本一致，配置差异和文本运气就分不开。这条已写进 <code>MEMORY.md</code> §7。</p>
<p dir="auto">报告已补上 §8（生产复核、归因拆解、回退记录），<code>ab-harness/adapt-pafast-20261104/</code> 里的原始 JSON、脚本、配置快照都留着，将来谁再提这个帖子可以直接复现。</p>
]]></description><link>https://lcz.me/post/30865</link><guid isPermaLink="true">https://lcz.me/post/30865</guid><dc:creator><![CDATA[marsempire]]></dc:creator><pubDate>Wed, 04 Nov 2026 00:00:50 GMT</pubDate></item><item><title><![CDATA[Reply to 【抄作业】单张 7900 XTX 跑 Qwen3.8-Flash-Next：Strata 原版调优，Decode 67.8 → 107.4 tok/s（+58%） on Tue, 03 Nov 2026 23:55:06 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/wang-wei" aria-label="Profile: Wang-Wei">@<bdi>Wang-Wei</bdi></a><br />
让AI读了下，有用，谢谢！</p>
<p dir="auto">逐条对表本机<br />
① --adapt-every 1 --adapt-swaps 160 --adapt-decay 0.97（帖子主收益）→ 本机支持，且默认值更保守，值得 A/B</p>
<p dir="auto">我查了 generate.cpp:875/880/911，本机 0.1.56 的默认是 adapt_every=4 / adapt_swaps=96 / adapt_decay=0.7——帖子等于把自适应层调激进：每轮都换（vs 每 4 轮）、一次换 160 个专家（vs 96）、热度衰减更慢（0.97 vs 0.7，记忆更长）。</p>
<p dir="auto">关键差异在瓶颈结构：他基线 decode 只有 67.8，说明专家缓存 miss 严重、被搬运卡死，激进自适应正好打在这个点上。我们日志里 hit rate: 95.0–97.3%，miss 走 PCIe 12.6 GB/s，占比只有 3–5% ⇒ 理论空间就是他那边的 1/10 不到，别指望 +58%，预期 0~5%。而且我们 decode 连跑单调爬升的现象（99→116→131）本身就是自适应层在逐轮预热——机制我们一直在用，只是档位保守。<br />
<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/26a0.png?v=5be5614064c" class="not-responsive emoji emoji-android emoji--warning" style="height:1.4em;width:auto;vertical-align:middle" title="⚠" alt="⚠" />️ 注意：换入换出专家会改舍入路径 ⇒ 改答案，和槽位变化同类，须单独 A/B。</p>
<p dir="auto">① adapt 三参：确实有效，decode 稳定 +5.4~7.6%<br />
三轮同向，不是噪声。机制也对得上：首轮命中率 94.40% → 96.30%，稳态 98.70% → 98.90%，miss 少一点、PCIe 搬运少一点，decode 就快一点。投机接受率几乎没变（153/227 vs 154/222），说明提速不是靠多吃草稿。</p>
<p dir="auto">帖子 +58% 我们 +6%，起点不同不矛盾——他基线 67.8（被搬运卡死），我们基线已 99.8。</p>
<p dir="auto">adapt 三参收益稳定、启动零副作用、回退就是删三个参数。唯一没验证的是会不会改答案——台架用 temp 0.3，文本本来就有随机性，判不出来。理论上专家只是"常驻在哪"变了，算术仍在 GPU 上跑，但这个项目里我们已经吃过"槽位变了就改答案"的亏，所以不敢替你打包票。</p>
]]></description><link>https://lcz.me/post/30863</link><guid isPermaLink="true">https://lcz.me/post/30863</guid><dc:creator><![CDATA[marsempire]]></dc:creator><pubDate>Tue, 03 Nov 2026 23:55:06 GMT</pubDate></item><item><title><![CDATA[Reply to 【抄作业】单张 7900 XTX 跑 Qwen3.8-Flash-Next：Strata 原版调优，Decode 67.8 → 107.4 tok/s（+58%） on Tue, 03 Nov 2026 15:39:41 GMT]]></title><description><![CDATA[<p dir="auto">我感觉也差不多到头了，单卡能跑成这样，也算是有生产力了。可以详细记录下排队时候的体验。</p>
]]></description><link>https://lcz.me/post/30822</link><guid isPermaLink="true">https://lcz.me/post/30822</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Tue, 03 Nov 2026 15:39:41 GMT</pubDate></item></channel></rss>