<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得]]></title><description><![CDATA[<p dir="auto"><strong>最近更新到 Strata 最新的 0.2.2 版本，简单分享一下个人实测性能、新版隐性BUG、双路平台专属避坑方案，同时求助一些小问题！</strong></p>
<ul>
<li>主板：精粤 X99-8D3 2.5G 双路DDR3</li>
<li>CPU：E5 2666V3*2</li>
<li>内存：64G ecc 四通道</li>
<li>显卡：3080 20g</li>
</ul>
<p dir="auto"><strong>0.2.2 版本 qwen3.8 fn iq3xxs 性能暴涨</strong></p>
<p dir="auto">新版优化幅度非常夸张，推理速度直接飙升至 90+ token/s 中位，常态可长时间稳定 100+ token/s ，是目前个人实测最快的Strata版本。<br />
吞吐和响应速度提升有 10-20%。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/f94589a5-6b5c-46b6-b78b-f8bd611bc367.jpg" alt="图片" class="img-markdown  img-fluid" /></p>
<p dir="auto">但是测试出了一些隐性代价，不知道有没有解决办法：<br />
从我开始测试Strata到现在 20 来天时间，我跑的都是超长时间、超高负载、大模型常驻全内存的重度任务，从未出现过任何死循环、卡死、逻辑卡死问题。即使是 LLM 总运行 700 多分钟的长链人物也是非常稳定</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/27f134b6-229f-4ce2-82ea-a71a66fb4d0b.jpg" alt="图片" class="img-markdown  img-fluid" /></p>
<p dir="auto">但升级 0.2.2 新版本后，首次遇到推理死循环卡死的异常情况。属实恼人</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/ceed5f57-ad44-4ed6-b9a9-011135ffaac4.jpg" alt="图片" class="img-markdown  img-fluid" /></p>
<p dir="auto">想问下各位好哥哥们：<br />
有没有人升级0.2.2后遇到死循环、推理卡死、任务挂起不结束的情况？<br />
是否有对应的修复/规避方案？</p>
<p dir="auto">**补充跑 strata 遇到的两个避坑点<br />
**<br />
专门给 双CPU、多核服务器平台 的玩家避坑，千万别踩雷！</p>
<p dir="auto">1：双路平台严禁分开NUMA内存池（核心BUG 的源头）</p>
<p dir="auto">Strata新版自带NUMA本地缓存池逻辑，双路X99这类双CPU机器极易触发兼容BUG：</p>
<ul>
<li>默认双路会分成两个独立内存池，Strata会错乱分配专家缓存、KV内存</li>
<li>导致随机卡死、掉速、内存溢出、诡异崩溃</li>
</ul>
<p dir="auto"><img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/2705.png?v=ec85ec55bc1" class="not-responsive emoji emoji-android emoji--white_check_mark" style="height:1.4em;width:auto;vertical-align:middle" title="✅" alt="✅" /> 正确解决方案<br />
保持BIOS NUMA开启，启动强制全局内存交错统一池<br />
不让两个CPU内存池分开工作，统一调度，彻底规避双路专属BUG<br />
（单路用户无此问题，仅双路多核需要注意，千万不要让数据塞入显存的时候在两块 CPU 控制的不同内存池里面来回调度，速度能跌到 20 多）</p>
<p dir="auto">避坑点2：条件支持的话 CPU 一定要全开多核调度，严禁单核运行</p>
<p dir="auto">Strata架构极度依赖CPU多核并行计算数据调控功能：<br />
所有多核服务器U、双路平台，一定要放开全部核心调度权限，不要锁单核、不要限核心数！2666v3 单核算甚至能跌破十几 token 每秒</p>
<p dir="auto"><strong>总结</strong></p>
<p dir="auto">1. Strata 0.2.2 速度历史性暴涨，稳定90+、常态100+<br />
2. 极速有代价：新增未知死循环 bug，疑似牺牲逻辑稳定性换速度，不知道大家有没有碰到类似情况<br />
3. 双路用户必改：统一NUMA内存池，不要分开，CPU 多核多线程一定要在 strata 里打开这是单核弱智性能洋垃圾跑 strata 的关键<br />
<em>（AI 分析 strata 可能比较吃 CPU 多核性能，说不定换成 36 核还能提升速度，但可信度我认为还是存疑的，有这方面知识的好哥哥请求分享经验）</em><br />
<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f604.png?v=ec85ec55bc1" class="not-responsive emoji emoji-android emoji--smile" style="height:1.4em;width:auto;vertical-align:middle" title=":smile:" alt="😄" /></p>
]]></description><link>https://lcz.me/topic/2496</link><generator>RSS for Node</generator><lastBuildDate>Fri, 23 Oct 2026 05:16:18 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2496.rss" rel="self" type="application/rss+xml"/><pubDate>Thu, 22 Oct 2026 01:16:02 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Fri, 23 Oct 2026 02:08:33 GMT]]></title><description><![CDATA[<p dir="auto">应该不是最新版本的问题. 之前我用 3090 24G测试, 0.1.44 版本就会有重复输出和死循环的问题, 不过我测的不是toolcall, 我测的是写作</p>
]]></description><link>https://lcz.me/post/26877</link><guid isPermaLink="true">https://lcz.me/post/26877</guid><dc:creator><![CDATA[Ma Lei]]></dc:creator><pubDate>Fri, 23 Oct 2026 02:08:33 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Fri, 23 Oct 2026 01:26:54 GMT]]></title><description><![CDATA[<p dir="auto">1.44 版本的三个长链案例首 token 实测，速度还是很可观的</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/7befbc84-d986-4cc1-9b00-59e5e538e505.jpg" alt="图片" class="img-markdown  img-fluid" /></p>
]]></description><link>https://lcz.me/post/26858</link><guid isPermaLink="true">https://lcz.me/post/26858</guid><dc:creator><![CDATA[ikum]]></dc:creator><pubDate>Fri, 23 Oct 2026 01:26:54 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Fri, 23 Oct 2026 01:15:06 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a href="/user/%E6%9D%A8tom">@杨tom</a> <a href="/post/26798">说</a>:</p>
<p dir="auto">楼主你好,请问在dsh上首字是三分钟吗? 有测试多并发吗?解码速度怎样?</p>
</blockquote>
<p dir="auto">三分钟首 token 是因为我之前的两百多分钟是用文中前期修复前 CPU 单核 20 多 token 每秒的时候跑的，填充和首 token 速度都慢了，昨天早上修复好后才正常作业</p>
]]></description><link>https://lcz.me/post/26856</link><guid isPermaLink="true">https://lcz.me/post/26856</guid><dc:creator><![CDATA[ikum]]></dc:creator><pubDate>Fri, 23 Oct 2026 01:15:06 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Fri, 23 Oct 2026 01:24:36 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a href="/user/%E6%9D%A8tom">@杨tom</a> <a href="/post/26798">说</a>:<br />
楼主你好,请问在dsh上首字是三分钟吗? 有测试多并发吗?解码速度怎样?</p>
</blockquote>
<p dir="auto">你好杨 tom，我这边实测用有线 sata 固态、ddr3 内存、pcle3.0 接口，首 token 处于 70s 内，多并发受限于 strata 的架构限制，效果应该是很不好的，我晚点去测试一下</p>
]]></description><link>https://lcz.me/post/26854</link><guid isPermaLink="true">https://lcz.me/post/26854</guid><dc:creator><![CDATA[ikum]]></dc:creator><pubDate>Fri, 23 Oct 2026 01:24:36 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 15:44:45 GMT]]></title><description><![CDATA[<p dir="auto">楼主你好,请问在dsh上首字是三分钟吗? 有测试多并发吗?解码速度怎样?</p>
]]></description><link>https://lcz.me/post/26798</link><guid isPermaLink="true">https://lcz.me/post/26798</guid><dc:creator><![CDATA[杨tom]]></dc:creator><pubDate>Thu, 22 Oct 2026 15:44:45 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 15:27:00 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/kos-or" aria-label="Profile: kos-or">@<bdi>kos-or</bdi></a> 我测试的16核cpu，开10个和14个worker，对我差别不大</p>
]]></description><link>https://lcz.me/post/26793</link><guid isPermaLink="true">https://lcz.me/post/26793</guid><dc:creator><![CDATA[J Z 0]]></dc:creator><pubDate>Thu, 22 Oct 2026 15:27:00 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 15:02:53 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/j-z-0" aria-label="Profile: J-Z-0">@<bdi>J-Z-0</bdi></a> <a href="/post/26632">said</a>:</p>
<p dir="auto">calibrate跟我说是最优值，我试试加大有没有帮助。 是pool-workers 吧</p>
</blockquote>
<p dir="auto">我調了 CPU 但Strata 已經最佳化 效能上不去</p>
]]></description><link>https://lcz.me/post/26789</link><guid isPermaLink="true">https://lcz.me/post/26789</guid><dc:creator><![CDATA[kos or]]></dc:creator><pubDate>Thu, 22 Oct 2026 15:02:53 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 02:19:25 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a href="/user/j-z-0">@J Z 0</a> <a href="/post/26632">说</a>:</p>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ikum" aria-label="Profile: ikum">@<bdi>ikum</bdi></a> 我试试cpu设置，我现在16核，留了一半。 calibrate跟我说是最优值，我试试加大有没有帮助。 是pool-workers 吧</p>
</blockquote>
<p dir="auto">没有测试过并发，论坛和特哥视频里都有 starta 并发不行的信息，所以也就没捣鼓了</p>
]]></description><link>https://lcz.me/post/26640</link><guid isPermaLink="true">https://lcz.me/post/26640</guid><dc:creator><![CDATA[ikum]]></dc:creator><pubDate>Thu, 22 Oct 2026 02:19:25 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 02:16:15 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a href="/user/j-z-0">@J Z 0</a> <a href="/post/26632">说</a>:</p>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ikum" aria-label="Profile: ikum">@<bdi>ikum</bdi></a> 我试试cpu设置，我现在16核，留了一半。 calibrate跟我说是最优值，我试试加大有没有帮助。 是pool-workers 吧</p>
</blockquote>
<p dir="auto">我的测试小结是如果是 10 核的 u 就开 10 线程，20 核只开 20 线程，每个核只跑一个线程不要超到 40 跑双线程不然会崩，大页也不要开，实际操作是，我双 e5 2666v3 跑 19 核十九线程留一个核跑向日葵和网页开销体感是最优的</p>
]]></description><link>https://lcz.me/post/26637</link><guid isPermaLink="true">https://lcz.me/post/26637</guid><dc:creator><![CDATA[ikum]]></dc:creator><pubDate>Thu, 22 Oct 2026 02:16:15 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 01:58:10 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ikum" aria-label="Profile: ikum">@<bdi>ikum</bdi></a> 我试试cpu设置，我现在16核，留了一半。 calibrate跟我说是最优值，我试试加大有没有帮助。 是pool-workers 吧</p>
]]></description><link>https://lcz.me/post/26632</link><guid isPermaLink="true">https://lcz.me/post/26632</guid><dc:creator><![CDATA[J Z 0]]></dc:creator><pubDate>Thu, 22 Oct 2026 01:58:10 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 01:36:04 GMT]]></title><description><![CDATA[<p dir="auto">物理极限在哪里 ，所有参数尽在老黄掌控之内。</p>
]]></description><link>https://lcz.me/post/26629</link><guid isPermaLink="true">https://lcz.me/post/26629</guid><dc:creator><![CDATA[stxpnet]]></dc:creator><pubDate>Thu, 22 Oct 2026 01:36:04 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 01:25:44 GMT]]></title><description><![CDATA[<p dir="auto">我发现strata性能提升是调整了某些参数 模型的智能会降低</p>
]]></description><link>https://lcz.me/post/26626</link><guid isPermaLink="true">https://lcz.me/post/26626</guid><dc:creator><![CDATA[gao Gao]]></dc:creator><pubDate>Thu, 22 Oct 2026 01:25:44 GMT</pubDate></item><item><title><![CDATA[Reply to Strata 又更新了新版本提升巨大，3080 20g 速度 90+tokens 稳定三位数，但可能有智力 bug 不知道有没有解决办法，文末还有双路板跑 strata 的一些心得 on Thu, 22 Oct 2026 01:23:02 GMT]]></title><description><![CDATA[<p dir="auto">上下文长度是 262k，放在内存</p>
]]></description><link>https://lcz.me/post/26625</link><guid isPermaLink="true">https://lcz.me/post/26625</guid><dc:creator><![CDATA[ikum]]></dc:creator><pubDate>Thu, 22 Oct 2026 01:23:02 GMT</pubDate></item></channel></rss>