<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录]]></title><description><![CDATA[<p dir="auto">参考<a href="https://lcz.me/topic/2696">这篇复测帖</a>和<a href="https://lcz.me/topic/2671">部署帖</a>，也在自己的 NAS 上折腾了两天。模型保留原来的 <strong>Qwen3.8-Flash-Next UD-Q4_K_XL</strong>。<br />
下面是AI总结的速度， 我实际写专业模型代码的速度从60tps升到80多， prefill的体感速度也是快了很多。</p>
<p dir="auto">最终结果：<strong>32K prefill 提升约 20.4%；之后单独校准 decode，同为 12 workers 时提升约 3%–6%。</strong> 两轮基线不同，下面分开列。</p>
<h2>配置</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项目</th>
<th>本机配置</th>
</tr>
</thead>
<tbody>
<tr>
<td>CPU / RAM</td>
<td>Ryzen 9 5900XT，16 核 32 线程 / 128GB</td>
</tr>
<tr>
<td>GPU</td>
<td>RX 7900 XTX 24GB，PCIe 4.0 ×16</td>
</tr>
<tr>
<td>系统</td>
<td>TrueNAS 25.10.7</td>
</tr>
<tr>
<td>驱动 / ROCm</td>
<td>AMDGPU 7.1.9.31600000 / ROCm 10.1 系统 SDK，非 TheRock 轮子</td>
</tr>
<tr>
<td>推理框架</td>
<td>nicejunjie/Strata-rdna3，PR #1，commit <code>309f0c8</code>，engine 0.1.43</td>
</tr>
<tr>
<td>模型 / KV</td>
<td>UD-Q4_K_XL / int8，最大上下文 262144</td>
</tr>
</tbody>
</table>
<h2>简要优化过程</h2>
<h3>1. 先照配置跑，再处理本机差异</h3>
<p dir="auto">最初照搬参数，没有复现帖子中的 decode。我的 CPU、量化和测试内容都不同，不能直接拿 IQ3_S 的 100+ tok/s 当目标。</p>
<p dir="auto">PLE 最后保留 <code>ram</code>，加载日志确认表已锁在 RAM；<code>direct</code> 在这台机器上出现过很慢的随机读取。这个选择主要解决本机加载体验，没有单独做可归因的速度百分比对照。</p>
<h3>2. 针对 Q4 测 prefill 开关</h3>
<p dir="auto">逐项及组合测试后，保留：</p>
<pre><code class="language-bash">STRATA_PF_FUSED_KQ=1
STRATA_PREFILL_RING=384
STRATA_FUSE_CONVAB=1
</code></pre>
<p dir="auto"><strong>这一轮全部固定 15 workers</strong>，比较的是同一 RDNA3 fork 内的参数变化：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th style="text-align:right">调整前</th>
<th style="text-align:right">三项开启后</th>
<th style="text-align:right">变化</th>
</tr>
</thead>
<tbody>
<tr>
<td>8K prefill，tok/s</td>
<td style="text-align:right">2432.4</td>
<td style="text-align:right">2631.5</td>
<td style="text-align:right">+8.2%</td>
</tr>
<tr>
<td>32K prefill，tok/s</td>
<td style="text-align:right">3169.4</td>
<td style="text-align:right">3815.1</td>
<td style="text-align:right">+20.4%</td>
</tr>
<tr>
<td>32K 首字耗时，秒</td>
<td style="text-align:right">10.39</td>
<td style="text-align:right">8.64</td>
<td style="text-align:right">−16.8%</td>
</tr>
<tr>
<td>32K 完整请求耗时，秒</td>
<td style="text-align:right">19.82</td>
<td style="text-align:right">17.94</td>
<td style="text-align:right">−9.5%</td>
</tr>
</tbody>
</table>
<p dir="auto">32K 的读取收益在 KQ 融合单项测试中就能重复看到；ring 和 CONVAB 单独开启没有明确收益。三项组合在本轮混合负载中总耗时最低，因此保留，但不把全部提升归功于每个开关，也不将这一轮约 1%–2% 的 decode 波动当成稳定收益。</p>
<p dir="auto">hipBLASLt 调优表也做了开关对照：这些负载走 WMMA/自定义路径，日志中 hipBLASLt 调用为 0，关表没有改善，因此保留原有 43 行表，没有为了凑参数额外重做。</p>
<h3>3. 跑内置 calibrate，再用长输入复测</h3>
<p dir="auto">内置校准约 16 分钟，扫描 PCIe 分工、MTP 阈值、worker 数和专家更新参数。之后把日常 worker 固定为 12 （10-14差别都很小），并补做了 <strong>两组都为 12 workers</strong> 的对照；上面的三个 prefill 设置在这两组中均保留。</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>场景</th>
<th style="text-align:right">校准前 decode，tok/s</th>
<th style="text-align:right">校准后 decode，tok/s</th>
<th style="text-align:right">变化</th>
</tr>
</thead>
<tbody>
<tr>
<td>8K 合成代码</td>
<td style="text-align:right">55.8</td>
<td style="text-align:right">57.5</td>
<td style="text-align:right">+3.0%</td>
</tr>
<tr>
<td>缓存对话续问</td>
<td style="text-align:right">59.4</td>
<td style="text-align:right">61.3</td>
<td style="text-align:right">+3.2%</td>
</tr>
<tr>
<td>32K 合成检索</td>
<td style="text-align:right">54.4</td>
<td style="text-align:right">57.4</td>
<td style="text-align:right">+5.5%</td>
</tr>
<tr>
<td>128K 合成检索</td>
<td style="text-align:right">57.8</td>
<td style="text-align:right">61.4</td>
<td style="text-align:right">+6.2%</td>
</tr>
</tbody>
</table>
<p dir="auto">这一轮 prefill 基本不变，完整请求耗时缩短约 1.2%–2.7%。decode 的百分比不能直接当成整笔任务的提速。12 workers 是最终日常选择，不代表已经证明它是所有负载的最优值。</p>
<h2>最终保留的关键参数</h2>
<p dir="auto">以下是关键项，模型路径及其余已有配置省略：</p>
<pre><code class="language-text">--pool-workers 12
--pool-tasks 96
--pcie-frac 0.20
--spec 4
--spec-min-p 0.70
--adapt-every 1
--adapt-swaps 160
--adapt-decay 0.97
--prefill auto
--ple-io ram
--max-context 262144
--kv int8
--kv-resident 32768
--vram-reserve-mib 512
</code></pre>
<p dir="auto">另外限制 ROCm 队列：主进程 <code>GPU_MAX_HW_QUEUES=6</code>，视觉辅助进程覆盖为 <code>2</code>。模型驻留后的短时观察为 GPU 0% busy、约 14–18W，没有再出现此前待机约 110W 的现象；这是显卡功耗，不是整机功耗。</p>
<h2>测试口径与体会</h2>
<p dir="auto">每组先预热，候选每个场景测 3 次取中位数；第一轮基线另复测一次，合并 6 次取中位数。输入为固定的合成代码/检索文本，输出 512 tokens；temperature 0、top-k 1、top-p 1、min-p 0、seed 42，关闭 thinking。新输入确认无提示词缓存复用，续问允许缓存；冷启动时间不计入上述速度。输入输出长度、检索码和固定代码答案检查均通过，但不等于完整的质量评测，也不是实际 DSH 长任务计时。</p>
]]></description><link>https://lcz.me/topic/2702</link><generator>RSS for Node</generator><lastBuildDate>Tue, 10 Nov 2026 01:51:57 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2702.rss" rel="self" type="application/rss+xml"/><pubDate>Fri, 30 Oct 2026 01:29:18 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 04:01:48 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/j-z-0" aria-label="Profile: J-Z-0">@<bdi>J-Z-0</bdi></a> 你们都在本地跑这种任务了，我本地都是一些小人任务，看来模型能干活了。我也找时间测试下。</p>
]]></description><link>https://lcz.me/post/29390</link><guid isPermaLink="true">https://lcz.me/post/29390</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Fri, 30 Oct 2026 04:01:48 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 02:36:38 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> 我想做一个给数据就自动跑数学模型， 出报告的agent， 一个任务时间比较长， 上下文要多次压缩。 之前用IQ3， 速度倒是快， 但偶尔不稳定， 会陷入死循环的自言自语， 也不是每次都发生， Q4好很多</p>
]]></description><link>https://lcz.me/post/29372</link><guid isPermaLink="true">https://lcz.me/post/29372</guid><dc:creator><![CDATA[J Z 0]]></dc:creator><pubDate>Fri, 30 Oct 2026 02:36:38 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:54:18 GMT]]></title><description><![CDATA[<p dir="auto">你这个比较真实，跑Q3还是跑Q4区别很大的。</p>
]]></description><link>https://lcz.me/post/29353</link><guid isPermaLink="true">https://lcz.me/post/29353</guid><dc:creator><![CDATA[donal2026]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:54:18 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:53:16 GMT]]></title><description><![CDATA[<p dir="auto">UD-Q4_K_XL 能跑到这个速度还是不错了，具备实用价值，比起IQ3有明显优势？</p>
]]></description><link>https://lcz.me/post/29352</link><guid isPermaLink="true">https://lcz.me/post/29352</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:53:16 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:52:04 GMT]]></title><description><![CDATA[<p dir="auto"><img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/2705.png?v=a055419e292" class="not-responsive emoji emoji-android emoji--white_check_mark" style="height:1.4em;width:auto;vertical-align:middle" title="✅" alt="✅" /> 版主审定：本帖设为<strong>优秀</strong>，作者 <strong>+3 积分</strong>奖励，继续加油！</p>
<blockquote>
<p dir="auto">奖励凭证：优秀 +3 分 · 编号 e2702-3843-1</p>
</blockquote>
]]></description><link>https://lcz.me/post/29351</link><guid isPermaLink="true">https://lcz.me/post/29351</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:52:04 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:49:20 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/j-z-0" aria-label="Profile: J-Z-0">@<bdi>J-Z-0</bdi></a> 现在我发的主要都是双卡，有时间也折腾一下单卡配置及优化</p>
]]></description><link>https://lcz.me/post/29349</link><guid isPermaLink="true">https://lcz.me/post/29349</guid><dc:creator><![CDATA[懒人烘培]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:49:20 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:47:49 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/%E6%87%92%E4%BA%BA%E7%83%98%E5%9F%B9" aria-label="Profile: 懒人烘培">@<bdi>懒人烘培</bdi></a> 靠你们大佬们加油了， 我抄作业更爽啊</p>
]]></description><link>https://lcz.me/post/29347</link><guid isPermaLink="true">https://lcz.me/post/29347</guid><dc:creator><![CDATA[J Z 0]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:47:49 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:47:25 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/j-z-0" aria-label="Profile: J-Z-0">@<bdi>J-Z-0</bdi></a> 嗯嗯，有时候这个版本真是摸不清</p>
]]></description><link>https://lcz.me/post/29346</link><guid isPermaLink="true">https://lcz.me/post/29346</guid><dc:creator><![CDATA[懒人烘培]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:47:25 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:45:50 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/%E6%87%92%E4%BA%BA%E7%83%98%E5%9F%B9" aria-label="Profile: 懒人烘培">@<bdi>懒人烘培</bdi></a> 嗯， 刚刚测了， 是RNDA3起作用， 退回去， 速度也回去了</p>
]]></description><link>https://lcz.me/post/29345</link><guid isPermaLink="true">https://lcz.me/post/29345</guid><dc:creator><![CDATA[J Z 0]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:45:50 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:45:13 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/j-z-0" aria-label="Profile: j-z-0">@<bdi>j-z-0</bdi></a> 没有到头，还有优化空间，就得花时间折腾<br />
我用得还是strata 0.1.43，每次升级前让ai去分析一下，不一定新版本就好</p>
]]></description><link>https://lcz.me/post/29342</link><guid isPermaLink="true">https://lcz.me/post/29342</guid><dc:creator><![CDATA[懒人烘培]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:45:13 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:41:29 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/%E6%87%92%E4%BA%BA%E7%83%98%E5%9F%B9" aria-label="Profile: 懒人烘培">@<bdi>懒人烘培</bdi></a> 我看你们100 decode多都是IQ3_s, 我这个size的模型可能也差不多到头了？  我现在保留所有参数， 让agent帮我退回0.2.8的原版strata， 看看到底是fork在起作用， 还是调的参数在起作用</p>
]]></description><link>https://lcz.me/post/29338</link><guid isPermaLink="true">https://lcz.me/post/29338</guid><dc:creator><![CDATA[J Z 0]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:41:29 GMT</pubDate></item><item><title><![CDATA[Reply to 作业： 7900 XTX 128g DDR4 跑 Q4_K_XL：Strata RDNA3 调优记录 on Fri, 30 Oct 2026 01:38:14 GMT]]></title><description><![CDATA[<p dir="auto">楼主用Strata在R7900 XTX上还有明显的优化空间，而且不需要更换显卡或模型，仅调整运行参数，就能改善 Prefill 和 Decode 性能。</p>
]]></description><link>https://lcz.me/post/29331</link><guid isPermaLink="true">https://lcz.me/post/29331</guid><dc:creator><![CDATA[懒人烘培]]></dc:creator><pubDate>Fri, 30 Oct 2026 01:38:14 GMT</pubDate></item></channel></rss>