<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[【实测】ThinkPad P1 Gen4-3080显卡（3）：Strata 引擎测试报告摘要]]></title><description><![CDATA[<p dir="auto"><strong>测试对象</strong>：Strata 引擎 v0.1.42（CUDA 12.9，sm_60..sm_89）在 3 个模型目录、3 个不同权重上的 <strong>4 个可测条目</strong>（RVN IQ3_S、GSQ-RCO IQ2_XS、GSQ-RCO IQ3_XXS、Alesha-pro 目录 IQ3_XXS 别名）<br />
<strong>报告生成</strong>：2026-10-17（Asia/Shanghai）</p>
<h2>1. 摘要</h2>
<p dir="auto">本次测试把 Strata 引擎（llama.cpp 系 CUDA 12 实验引擎，v0.1.42）当作被测系统，在<strong>一台 16 GB 显存的笔记本</strong>上，对用户给出的三个模型目录做了可复现的吞吐实测。三个目录在权重层面只有 <strong>3 个不同权重</strong>：RVN 目录是 IQ3_S（merged 单文件 88.88 GB），GSQ-RCO 目录提供 IQ2_XS 与 IQ3_XXS 两档，Alesha-pro 目录只放了 IQ3_XXS——而它和 GSQ 目录的 IQ3_XXS <strong>逐字节相同</strong>（两个分片的 SHA256 与字节数逐条相等，另做 9 个窗口 × 4 MiB 抽样比对 0 字节差异，且是 inode 不同、nlink=1 的独立物理副本），所以 Alesha 条目复用 GSQ 条目的实测数据，按"别名"记录，不再重复启动引擎。这样得到 <strong>4 个可测条目</strong>。</p>
<p dir="auto">机器一句话：11th Gen Intel Core i7-11850H（8C/16T、AVX-512）+ <strong>31.71 GiB RAM</strong> + NVIDIA RTX 3080 Laptop 16 GiB（驱动 596.47）+ Windows 11 22631 + SIX X7400 Pro SSD。三个权重的专家体量分别是 <strong>35.5 / 43 / 50 GB</strong>，按 Strata 官方"RAM ≥ 专家体量 + 约 10 GB"的门槛，需要 45.5 / 53 / 60 GB 内存，<strong>三者都远超本机 31.71 GiB</strong>，因此引擎必然落进官方 low-RAM 的 <code>--mmap-experts</code> 分支：专家不从 RAM 常驻，而是按需从 SSD 经 Windows 页缓存读入显存专家槽。这一条决定了本次所有数字的量级，也是报告中最需要被理解的口径前提。</p>
<p dir="auto">三档结果一句话：IQ2_XS 在 32K / 48K / 64K 的 decode 均值分别是 <strong>28.95 / 30.15 / 34.80 t/s</strong>（每档两次重复取均值，另有一次独立冷 64K 33.60），IQ3_XXS 是 <strong>14.75 / 16.05 / 23.75 t/s</strong>（冷 64K 22.30）。两个权重都呈现"档位越长越快"的形态，原因不是上下文变长本身更快，而是同一篇文档按前缀延长、专家页已被页缓存焐热（详见 §11.1）。</p>
<p dir="auto">达标清单（需求 V3 规则：任一档 decode 均值 ≥ 17 t/s）：<strong>IQ2_XS @ 65536 = 34.80 t/s</strong>、<strong>IQ3_XXS @ 65536 = 23.75 t/s</strong>。IQ3_XXS 的 32K（14.75）与 48K（16.05）不达标——48K 档的第二次重复曾达到 17.00，但判定必须用两次均值，不能挑单次最大值。Alesha 条目与 IQ3_XXS 同值同结论，因是别名，不重复计入达标清单。用户原始表述的严格口径"CTX ≥ 64K 且 TPS &gt; 17"与 V3 结论完全一致（两者都只在 64K 档通过）。</p>
<p dir="auto">RVN IQ3_S 不可测一句话：<strong>32K / 48K / 64K 三档全部没有实测数据</strong>。2026-10-16～17 的三次 32K 尝试都在 32K prefill 早期（引擎日志 <code>K/V grown to 40960 cells</code> 之后）导致系统级异常——前两次是硬冻结/强制断电（无 bugcheck、无 dump、无 Kernel-Power 41），第三次是 <code>0x0000019C</code> bugcheck（dump 已写）。该模型在本机唯一的实测是 <strong>4K 冒烟 8.90 t/s</strong>，属"能跑起来"的证据，不是档位成绩，禁止外推到 32K 及以上（§9.4）。</p>
<p dir="auto"><strong>结论速览</strong>（数值全部取自 <code>data/summary.json</code>）：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>条目（CSV model）</th>
<th>量化</th>
<th>32K 均值</th>
<th>48K 均值</th>
<th>64K 均值</th>
<th>达标 CTX</th>
<th>结论</th>
</tr>
</thead>
<tbody>
<tr>
<td>gsq-iq2xs</td>
<td>IQ2_XS</td>
<td>28.95</td>
<td>30.15</td>
<td>34.80</td>
<td>65536</td>
<td>达标（三档均 ≥17）</td>
</tr>
<tr>
<td>gsq-iq3xxs</td>
<td>IQ3_XXS</td>
<td>14.75</td>
<td>16.05</td>
<td>23.75</td>
<td>65536</td>
<td>达标（仅 64K）</td>
</tr>
<tr>
<td>alesha-iq3xxs</td>
<td>IQ3_XXS</td>
<td>14.75</td>
<td>16.05</td>
<td>23.75</td>
<td>65536</td>
<td>达标（别名，复用 IQ3_XXS 数据，不重复计入）</td>
</tr>
<tr>
<td>rvn-iq3s</td>
<td>IQ3_S</td>
<td>未测</td>
<td>未测</td>
<td>未测</td>
<td>—</td>
<td>不可测（三次 32K 尝试致系统异常，仅有 4K 冒烟 8.90 仅供参考）</td>
</tr>
</tbody>
</table>
]]></description><link>https://lcz.me/topic/2388</link><generator>RSS for Node</generator><lastBuildDate>Sun, 25 Oct 2026 23:45:03 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2388.rss" rel="self" type="application/rss+xml"/><pubDate>Sat, 17 Oct 2026 15:20:43 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 【实测】ThinkPad P1 Gen4-3080显卡（3）：Strata 引擎测试报告摘要 on Sat, 17 Oct 2026 15:24:34 GMT]]></title><description><![CDATA[<p dir="auto">测试结果让我感到奇怪：同样硬件条件下，在32K-64K的阶梯段，随着CTX的增加，TPS居然是上涨的——两个权重都呈现"档位越长越快"的形态，原因不是上下文变长本身更快，而是同一篇文档按前缀延长、专家页已被页缓存焐热。</p>
<p dir="auto">但超过64K，机器就宕机了~</p>
]]></description><link>https://lcz.me/post/25562</link><guid isPermaLink="true">https://lcz.me/post/25562</guid><dc:creator><![CDATA[PhilipShi2026]]></dc:creator><pubDate>Sat, 17 Oct 2026 15:24:34 GMT</pubDate></item></channel></rss>