<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[今天测了测ornith 1.5 35B A3B Q6]]></title><description><![CDATA[<p dir="auto"><img src="https://upload.lcz.me/uploads/47495451-d20b-4468-aeda-6fb1855858d4.jpeg" alt="edff4bb4-a315-4971-8500-3db0884349c5-image.jpeg" class="img-markdown  img-fluid" /><br />
<img src="https://upload.lcz.me/uploads/95d949e4-5562-47e4-b1bb-c21924033218.jpeg" alt="bff01907-deb5-4f80-a9d8-9c76538198c3-image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/a96020b3-f2c1-415d-bf42-f477f2ce6b02.jpeg" alt="4208ae92-17fd-40b8-b045-ac830435dd51-image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">感觉多步规划还是挺强的，不适合hermes，适合oh-my-opencode.<br />
llama.cpp没有前缀缓存太痛苦了.</p>
]]></description><link>https://lcz.me/topic/1783</link><generator>RSS for Node</generator><lastBuildDate>Sun, 25 Oct 2026 10:57:14 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/1783.rss" rel="self" type="application/rss+xml"/><pubDate>Thu, 17 Sep 2026 17:24:52 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 今天测了测ornith 1.5 35B A3B Q6 on Sat, 19 Sep 2026 07:59:04 GMT]]></title><description><![CDATA[<p dir="auto">宣告後一直不出 31B稠密 很蛋疼  本來超期待的 是怕打不過千問嗎?</p>
]]></description><link>https://lcz.me/post/19319</link><guid isPermaLink="true">https://lcz.me/post/19319</guid><dc:creator><![CDATA[starryskyknight]]></dc:creator><pubDate>Sat, 19 Sep 2026 07:59:04 GMT</pubDate></item><item><title><![CDATA[Reply to 今天测了测ornith 1.5 35B A3B Q6 on Fri, 18 Sep 2026 01:51:02 GMT]]></title><description><![CDATA[<p dir="auto">这个效果看起来做内部知识库不错。</p>
]]></description><link>https://lcz.me/post/18977</link><guid isPermaLink="true">https://lcz.me/post/18977</guid><dc:creator><![CDATA[Bunsei]]></dc:creator><pubDate>Fri, 18 Sep 2026 01:51:02 GMT</pubDate></item><item><title><![CDATA[Reply to 今天测了测ornith 1.5 35B A3B Q6 on Thu, 17 Sep 2026 19:03:42 GMT]]></title><description><![CDATA[<p dir="auto">llama.cpp 是有前缀缓存的，只是版本和参数影响很大：</p>
<ul>
<li>服务端看 <code>--cache-reuse</code>（可复用 chunk 的下限），老版本可能要显式开；</li>
<li>请求体看 <code>cache_prompt</code>（新版默认 true，老版本默认 false）；</li>
<li>如果每次请求 prompt 前部有变化（时间戳、随机 ID、重排的 system），命中率会掉到接近 0，看起来就像「没有缓存」。</li>
</ul>
<p dir="auto">先把这两处参数和 prompt 的稳定性确认一遍，再和 vLLM/SGLang 的 prefix cache 对比，不然容易得出错误结论。</p>
<p dir="auto">ornith 1.5 35B A3B 是激活 3B 的 MoE，decode 快是预期；多步规划强不强更多取决于采样和工具协议。适不适合 Hermes 要看任务类型，Hermes 的瓶颈常在工具调用 schema 和上下文管理，不在模型本体。</p>
]]></description><link>https://lcz.me/post/18930</link><guid isPermaLink="true">https://lcz.me/post/18930</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Thu, 17 Sep 2026 19:03:42 GMT</pubDate></item><item><title><![CDATA[Reply to 今天测了测ornith 1.5 35B A3B Q6 on Thu, 17 Sep 2026 17:34:52 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> opencode版的 组队插件，让它可以一个LLM分身出来组队编程，应该都差不多的，名字前缀都一样。</p>
]]></description><link>https://lcz.me/post/18918</link><guid isPermaLink="true">https://lcz.me/post/18918</guid><dc:creator><![CDATA[stxpnet]]></dc:creator><pubDate>Thu, 17 Sep 2026 17:34:52 GMT</pubDate></item><item><title><![CDATA[Reply to 今天测了测ornith 1.5 35B A3B Q6 on Thu, 17 Sep 2026 17:28:53 GMT]]></title><description><![CDATA[<p dir="auto">适合oh-my-opencode. 者是什么玩意，不是oh my pi？</p>
]]></description><link>https://lcz.me/post/18916</link><guid isPermaLink="true">https://lcz.me/post/18916</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Thu, 17 Sep 2026 17:28:53 GMT</pubDate></item></channel></rss>