<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值]]></title><description><![CDATA[<p dir="auto">之前测试过Strata和Paiton的性能——<a href="https://lcz.me/post/24626">Qwen3.8-Flash-Next UD-Q4_K_XL 引擎对比：llama.cpp 与 Strata，同样的48GB 显存 + 128GB 内存，不同的结果</a>，这篇写落地：把这两台引擎接进 DSH，一台当主模型，一台专门跑子代理。</p>
<hr />
<h2>一、两台引擎</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>引擎</th>
<th>显卡</th>
<th>显存</th>
<th>上下文</th>
<th>对外</th>
</tr>
</thead>
<tbody>
<tr>
<td>Strata</td>
<td>NVIDIA RTX PRO 5000 48G</td>
<td>47,861 / 48,935 MiB</td>
<td>262,144</td>
<td><code>&lt;推理机&gt;:18090</code></td>
</tr>
<tr>
<td>Paiton (vLLM)</td>
<td>AMD R9700 32G</td>
<td>31.7 / 31.9 GB</td>
<td>65,536</td>
<td><code>&lt;推理机&gt;:18982</code></td>
</tr>
</tbody>
</table>
<p dir="auto">两张卡各顶到 98% 附近，长期共存互不影响。Paiton 在 Docker 里，靠 <code>--device /dev/kfd --device /dev/dri</code> 吃 AMD 卡。</p>
<p dir="auto">Paiton 的参数里有一条：</p>
<pre><code>--served-model-name  Qwen3.8
--max-model-len      65536
--max-num-seqs       8
--enable-auto-tool-choice --tool-call-parser qwen3_coder
--no-enable-prefix-caching
</code></pre>
<p dir="auto">最后一条关掉了前缀缓存，日志里 <code>Prefix cache hit rate</code> 长期是 <code>0.0%</code>，每轮都要重读全部历史。Strata 那边同一时段的复用率是 93%～99.9%。</p>
<p dir="auto">拿 Paiton 当子代理，是因为子代理上下文短、任务独立，不是因为它在长对话里划算。让它做主模型会很难受。</p>
<hr />
<h2>二、DSH</h2>
<p dir="auto">配置在 <code>~/.dsh/profiles/desktop/cordis.patch.yml</code>。</p>
<p dir="auto">凭据单独放，<code>~/.dsh/.credentials.yaml</code>：</p>
<pre><code class="language-yaml">refs:
  STRATA_API_KEY: &lt;key&gt;
  PAITON_API_KEY: &lt;key&gt;
</code></pre>
<p dir="auto">两个 provider：</p>
<pre><code class="language-yaml">      strata:
        displayName: Strata
        api: openai-completions
        baseURL: http://&lt;推理机&gt;:18090/v1
        apiKeyEnv: STRATA_API_KEY
        models:
          - id: qwen3.8-flash-next-unsloth-ud-q4_k_xl
            contextWindow: 262144
            maxTokens: 65536
            input: [text, image]
      paiton:
        displayName: paiton-65K
        api: openai-completions
        baseURL: http://&lt;推理机&gt;:18982/v1
        apiKeyEnv: PAITON_API_KEY
        models:
          - id: Qwen3.8
            contextWindow: 65536
            maxTokens: 16384
</code></pre>
<p dir="auto">子代理要另外开白名单：</p>
<pre><code class="language-yaml">- id: subagent-model-selection-settings
  config:
    enabled: true
    allowedModels:
      - provider: paiton
        model: Qwen3.8
      - provider: strata
        model: qwen3.8-flash-next-unsloth-ud-q4_k_xl
</code></pre>
<p dir="auto"><code>allowedModels</code> 只是允许哪些路由出现在选择列表里，不等于默认。真正派活是按次指定 <code>provider</code> / <code>model</code>，省略就继承主模型。所以"让子代理走 Paiton"这件事，可以在每次派发时写明，也可以在配置中固定，前者更灵活一些。</p>
<hr />
<h2>三、跑一次真实任务</h2>
<p dir="auto">这一节是它在真实任务里的表现，数字来自三个来源：DSH 的会话记录、Strata 引擎日志、Paiton 容器日志，能对的地方都对过。</p>
<p dir="auto">任务是 <strong>kos or</strong> 大神出的题： <a href="https://lcz.me/post/24313">LLM解題 極限測試 Extreme-Exam-v7-A (出題者 : GPT6-Astra-max)</a>。</p>
<h3>55 分钟出答案，3 小时 39 分做完</h3>
<p dir="auto"><img src="https://upload.lcz.me/uploads/ff041590-a256-404a-ba6d-d226b8b9a16c.jpeg" alt="一次真实任务的时间线" class="img-markdown  img-fluid" /></p>
<p dir="auto">主模型在第 1 轮 55 分钟里给出了答案。但同一轮派出的四个子代理里，有两个在答案出来时还在跑：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>子代理</th>
<th>起</th>
<th>止</th>
<th>时长</th>
</tr>
</thead>
<tbody>
<tr>
<td>① 独立解题</td>
<td>18:17</td>
<td>18:55</td>
<td>38 分钟</td>
</tr>
<tr>
<td>② 穷举验证</td>
<td>18:17</td>
<td>18:55</td>
<td>38 分钟</td>
</tr>
<tr>
<td>③ 对抗审查</td>
<td>18:17</td>
<td>20:10</td>
<td>113 分钟</td>
</tr>
<tr>
<td>④ 独立实现</td>
<td>19:02</td>
<td>21:46</td>
<td>164 分钟</td>
</tr>
</tbody>
</table>
<p dir="auto">主模型 19:03 交卷，③ 又跑了 67 分钟，④ 又跑了 161 分钟。会话总跨度 3 小时 39 分，其中两小时四十三分是 ④ 一个人在后台干活。</p>
<p dir="auto">模型自己报告的"端到端约 45 分钟"，只算上了它自己那一轮。</p>
<h3>三个实现收敛到同一个数</h3>
<p dir="auto">子代理 ④ 是"独立实现"，折腾到 21:44 才跑通：</p>
<pre><code>[ok] b(1..6) match known values
[ok] C(4)=6   [ok] C(6)=63   [ok] C(8)=717
[ok] C(30)=3202559936373493
[info] large-N computation took 60.01s
FINAL_R = 385583993536
</code></pre>
<p dir="auto">和主模型算的结果一致。它还多验了一个之前没验过的量：C(30) 的精确值。</p>
<h3>两边的账</h3>
<p dir="auto"><img src="https://upload.lcz.me/uploads/f7def444-1afa-4861-b09f-33a06ac5fde9.jpeg" alt="两后端工作量对比" class="img-markdown  img-fluid" /></p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th></th>
<th>Strata（主模型）</th>
<th>Paiton（子代理）</th>
</tr>
</thead>
<tbody>
<tr>
<td>请求数</td>
<td>90</td>
<td>186</td>
</tr>
<tr>
<td>名义 prompt</td>
<td>8,466,905</td>
<td>≈ 4,930,000</td>
</tr>
<tr>
<td>真正重读</td>
<td>258,804（3.1%）</td>
<td>≈ 4,930,000（100%）</td>
</tr>
<tr>
<td>生成</td>
<td>207,906</td>
<td>≈ 315,200</td>
</tr>
<tr>
<td>实际计算量</td>
<td>466,710</td>
<td>≈ 5,245,200</td>
</tr>
</tbody>
</table>
<p dir="auto">Strata 名义上处理的 prompt 更多，但 96.9% 来自缓存；Paiton 没有前缀缓存，四百九十万全部重算。实际计算量差了<strong>十一倍</strong>，和我一开始的预想正好相反——不是主模型扛大头，是子代理。</p>
<h3>并发</h3>
<p dir="auto"><img src="https://upload.lcz.me/uploads/59eaac45-3bae-4ae1-8c67-75090103b356.jpeg" alt="Paiton 并发曲线" class="img-markdown  img-fluid" /></p>
<p dir="auto">310 个采样窗口里，73 个是 3 路同时解码，221 个是 2 路以上，排队峰值只有 1。三个子代理是同一秒发出去的，日志证明它们真在同时算。</p>
<p dir="auto">Strata 逐请求的中位解码是 92.3 tok/s（p10 74.8，p90 111.6），预填中位 226 tok/s。Paiton 聚合生成峰值 292.8 tok/s，预填峰值 5,744 tok/s——原始预填比 Strata 快，但它每轮都从零算，这个优势被缓存抵掉了。</p>
<h3>一次压缩失败</h3>
<p dir="auto">三次自动压缩里，一次报 <code>summarization produced no text summary content</code>，摘要请求没产出内容。会话继续了，但那一次等于没压缩。</p>
<hr />
<h2>四、跑完之后</h2>
<p dir="auto">端到端是通的，并行也是真的，日志摆在那里，这个不用怀疑。</p>
<p dir="auto">这次真正值钱的是上下文隔离。子代理在 65K 上限里各烧各的，主模型在最大 151,082 token 的上下文里继续工作，复用率 96.9%。子代理的脏活一点没污染主上下文。这一点比快多少 tok/s 重要得多。</p>
<p dir="auto">但"交卷"和"做完"不是一回事。主模型 19:03 给出答案时，还有<strong>两个子代理在跑</strong>。主模型把"我算完了"当成了"任务完成了"，没把仍在后台进行的工作交代出来，人看到的现象就是任务一直不结束。</p>
<p dir="auto">冗余验证的代价也被低估了。子代理 ④ 用两小时四十三分独立重写了一份实现，结论和主模型一模一样。它先写出来的版本跑不完——13,824 个除数各做一次 30×30 矩阵幂，纯 Python 要几十亿次运算。后来子代理 ④ 跑了一遍性能分析（Python 自带的 cProfile，能按函数统计耗时），定位到瓶颈就在这里，重写那一段之后才压到 60 秒。会自我纠错是好事，但为一个已有答案的结果再烧三小时，收益几乎为零。</p>
<p dir="auto">八个槽位只用了三个。任务拆不出八个互相独立的子任务，配置的余量也就只是余量。</p>
<p dir="auto">还有一点得说清楚：这次没有对照组。同样这道题，之前只靠 Strata 单模型（加上我手动修它的 bug）也得出了一模一样的答案。所以这次证明的是跑得通、并行真、结果对，没证明多子代理比单模型更好更快更省。要证明这件事，得同一道题跑两遍对照，这次没做。</p>
<p dir="auto">算一下就很清楚：</p>
<pre><code>机械计算：    1 秒
出答案：     55 分钟
全部做完：  3 小时 39 分
</code></pre>
<p dir="auto">开 parallel、加子代理、换更快的卡，边际收益都很低。卡住效率的是交卷标准、没有预算的冗余验证，以及缺一个对照。这三件都不是硬件问题。</p>
<hr />
<h2>五、现在的状态</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项</th>
<th>状态</th>
</tr>
</thead>
<tbody>
<tr>
<td>双卡共存</td>
<td>正常，各占一卡</td>
</tr>
<tr>
<td>主模型 + 子代理</td>
<td>Strata 主 + 4 个 paiton 子代理，跑通</td>
</tr>
<tr>
<td>子代理并行</td>
<td><code>Running: 3, Waiting: 0</code>，73 个窗口 3 路</td>
</tr>
<tr>
<td>答案正确性</td>
<td>三个独立实现收敛到同一个数</td>
</tr>
<tr>
<td>出答案 vs 全部做完</td>
<td>55 分钟 vs 3 小时 39 分</td>
</tr>
<tr>
<td>Strata 缓存复用</td>
<td>96.9%，最大单次 prompt 151,082</td>
</tr>
</tbody>
</table>
<hr />
<h2>小结</h2>
<p dir="auto">至于这套组合能不能用，那要分跑什么样的任务。</p>
<p dir="auto">对能自我验证的活——数学推导、算法实现、数据变换这种答案对错机器能判的——它有实打实的生产力。这次 55 分钟拿到一个由三条独立路径互相印证的答案，全程本地，没有 API 费用。以前要么自己写几小时，要么花钱调云模型。</p>
<p dir="auto">优点集中在三处。上下文隔离：子代理各烧各的 65K，主模型在十五万 token 里继续，互不污染。不抢卡：子代理在 AMD、主模型在 N 卡，这是双卡唯一真正兑现的地方。还有一个我原本没预期的——子代理扛得住反复试错，有一个重写了三小时，最后真跑通了。</p>
<p dir="auto">短板同样清楚。Paiton 没有前缀缓存，每轮从零读 prompt，长任务不划算；65K 一过就得回落到 Strata，而 Strata 和主模型共用一张卡、还只能串行，优势当场抵消。更麻烦的是子代理会跑偏：那次三小时的重写，主模型中途并不知道该不该喊停，人看到的就是任务一直不结束。</p>
<p dir="auto">至于省不省钱，得先分清两边是怎么计费的，它们根本不是一回事。</p>
<p dir="auto">本地是按时间花钱：满载 500W，一小时两毛五电费（0.5 元一度）。这段时间产出多少 token、跑得快还是慢，跟账单无关。</p>
<p dir="auto">DeepSeek 是按 token 花钱：flash 空闲时段缓存命中输入 0.02 元/百万，未命中 1 元，输出 4 元；高峰时段翻倍。跑多久不影响账单，处理多少 token 才影响。高峰是工作日 9:00-12:00 和 14:00-18:00，其余时段和周末按空闲价。</p>
<p dir="auto">我 9 月的真实账单：9,424 次请求，2.89B tokens，154.36 元。平均每请求 30 万 tokens，均价 0.053 元/百万——只比缓存命中价 0.02 高一点。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/76b20c61-ddeb-4876-b98a-00345fafc66f.jpeg" alt="9月份deepseek账单" class="img-markdown  img-fluid" /></p>
<p dir="auto">这个均价说明了一件事：<strong>两亿九千万 tokens 里，真正按未命中价和输出价算的只有八千万左右，其余全部命中了缓存</strong>，命中率约 97%。</p>
<p dir="auto">而缓存命中是这套账里最关键的数字。同样 2.89B tokens，全部命中的话账单是 58 元；全部未命中，是 2,888 元。差五十倍。</p>
<p dir="auto">换成本地呢？本地不吃缓存价，只吃时间。按这次实测的真实计算速率（未命中加输出，每小时 1.56M tokens），9 月那八千多万的实际计算量，大约需要每月 52 个 GPU 小时，折合每天 1.7 小时，电费 13 元。</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>用量</th>
<th style="text-align:right">tokens/月</th>
<th style="text-align:right">每天 GPU 时间</th>
<th style="text-align:right">本地电费</th>
<th style="text-align:right">flash 账单</th>
<th style="text-align:right">整机 6 万回本</th>
</tr>
</thead>
<tbody>
<tr>
<td>现在</td>
<td style="text-align:right">2.89B</td>
<td style="text-align:right">1.7 小时</td>
<td style="text-align:right">13 元</td>
<td style="text-align:right">154 元</td>
<td style="text-align:right">35 年</td>
</tr>
<tr>
<td>5 倍</td>
<td style="text-align:right">14.4B</td>
<td style="text-align:right">8.7 小时</td>
<td style="text-align:right">65 元</td>
<td style="text-align:right">772 元</td>
<td style="text-align:right">7.1 年</td>
</tr>
<tr>
<td>10 倍</td>
<td style="text-align:right">28.9B</td>
<td style="text-align:right">17.3 小时</td>
<td style="text-align:right">130 元</td>
<td style="text-align:right">1,544 元</td>
<td style="text-align:right">3.5 年</td>
</tr>
<tr>
<td>跑满 24 小时</td>
<td style="text-align:right">39.9B</td>
<td style="text-align:right">23.9 小时</td>
<td style="text-align:right">179 元</td>
<td style="text-align:right">2,130 元</td>
<td style="text-align:right">2.6 年</td>
</tr>
</tbody>
</table>
<p dir="auto">本地电费按满载 500W、0.5 元一度、30 天算；500W 是按 N 卡实测 183W、A 卡加主板 CPU 估的，空闲时 N 卡只有二十来瓦，所以这一列是上限。账单按空闲时段价折算，高峰翻倍。</p>
<p dir="auto">结论比我原先想的保守：按现在的用量，买卡完全不划算，省下的钱要三十多年才抵得上机器。用量涨到十倍——每天十七个小时——才勉强进入三到四年的区间；跑满 24 小时也只有现在的十四倍，回本两年半。二十四小时是单机的物理上限，再往上只能加机器。</p>
<p dir="auto">但这个结论有两个前提，不说清楚会被误读。</p>
<p dir="auto">一是用量。我不是专业开发者，2.89B 是业余时间折腾出来的量。专业开发者一天到晚在跑 agent，可能是我这里的几倍到几十倍——真到那个量级，回本周期会从三十多年掉到几年，而且会撞上单机的物理上限。</p>
<p dir="auto">二是目的，这一条更关键。这套系统现在没在产出任何价值，纯属娱乐和实验。<strong>"回本"这个概念只对生产环境成立</strong>：如果它就是个爱好，这笔钱该和别的爱好比——三万块的相机不会因为"省了租相机的钱"而回本。它买的是折腾的乐趣、随时能试的自由、数据不出门。</p>
<p dir="auto">所以准确的说法是：按我现在的用量和目的，这笔钱是消费，不是投资。想让它变成投资，用量和生产价值得同时上去，缺一条都不成立。</p>
<p dir="auto">另外两点。本地这个 Qwen3.8-Flash-Next 和 deepseek-flash 不是同一个东西，能力和可靠性都有差距，省钱的账只是一面。还有这个数仍有压缩空间——3 小时 39 分是没优化的试验状态，光一次冗余复核就占了 2 小时 43 分，真进了生产流程这种活不该重演，账还会更好看。</p>
]]></description><link>https://lcz.me/topic/2413</link><generator>RSS for Node</generator><lastBuildDate>Sun, 25 Oct 2026 03:12:17 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2413.rss" rel="self" type="application/rss+xml"/><pubDate>Sun, 18 Oct 2026 11:12:40 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Tue, 20 Oct 2026 07:53:46 GMT]]></title><description><![CDATA[<p dir="auto">其实我觉得最快回本的方法就是去711 或者麦当劳打工。。。然后用手机通过tailscale连接回家生成视频</p>
]]></description><link>https://lcz.me/post/26193</link><guid isPermaLink="true">https://lcz.me/post/26193</guid><dc:creator><![CDATA[imbiplaza ASUS]]></dc:creator><pubDate>Tue, 20 Oct 2026 07:53:46 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Tue, 20 Oct 2026 06:41:00 GMT]]></title><description><![CDATA[<p dir="auto">靠流量费回本本身就不靠谱，靠AI赚钱回本还实际一点。</p>
]]></description><link>https://lcz.me/post/26174</link><guid isPermaLink="true">https://lcz.me/post/26174</guid><dc:creator><![CDATA[perter]]></dc:creator><pubDate>Tue, 20 Oct 2026 06:41:00 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Tue, 20 Oct 2026 05:34:47 GMT]]></title><description><![CDATA[<p dir="auto">这个按整机按6万算的，如果按照便宜点的x99洋垃圾配置，R9700+X99+64G DDR4+电源硬盘机箱散热=17000元以内，这套配置的tok中位数是72，比你的92tok低了20%，那么可以算作效率低20%，<br />
即回本周期分别为<br />
35年 × 系数（1+20%）×1.7万元/6万元<br />
=35×0.34=11.9年，<br />
其他同理<br />
7.1年×0.34=2.4年，<br />
3.5年×0.34=1.19年，<br />
2.6年×0.34=0.88年，<br />
不到一年就回本，还是挺不错的，<br />
如果换成7900xtx，价格少6000，总成本不到1.1W，tok是65左右，系数是 0.24，那么结论分别是 8.4年，1.7年，0.8年，0.6年<br />
当然这只是数量的比较，严格来说tok的质量肯定是不如在线的</p>
]]></description><link>https://lcz.me/post/26164</link><guid isPermaLink="true">https://lcz.me/post/26164</guid><dc:creator><![CDATA[xiaopbro]]></dc:creator><pubDate>Tue, 20 Oct 2026 05:34:47 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Tue, 20 Oct 2026 02:35:50 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto">张光璞 <a href="/post/26117">说</a>:</p>
<p dir="auto">看到回本35年笑了。 很多喜欢本地折腾的很多只是喜欢折腾。就像hifi 发烧友喜欢折腾器材远大于喜欢音乐</p>
</blockquote>
<p dir="auto">本地部署能满足日常轻办公就够了。真想高智力还是需要API 补充的。</p>
]]></description><link>https://lcz.me/post/26119</link><guid isPermaLink="true">https://lcz.me/post/26119</guid><dc:creator><![CDATA[张光璞]]></dc:creator><pubDate>Tue, 20 Oct 2026 02:35:50 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Tue, 20 Oct 2026 02:34:47 GMT]]></title><description><![CDATA[<p dir="auto">看到回本35年笑了。 喜欢本地折腾的很多只是喜欢折腾。就像hifi 发烧友喜欢折腾器材远大于喜欢音乐</p>
]]></description><link>https://lcz.me/post/26117</link><guid isPermaLink="true">https://lcz.me/post/26117</guid><dc:creator><![CDATA[张光璞]]></dc:creator><pubDate>Tue, 20 Oct 2026 02:34:47 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Mon, 19 Oct 2026 02:00:45 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/johnnybegood" aria-label="Profile: johnnybegood">@<bdi>johnnybegood</bdi></a> 这是正确的观点。</p>
]]></description><link>https://lcz.me/post/25900</link><guid isPermaLink="true">https://lcz.me/post/25900</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Mon, 19 Oct 2026 02:00:45 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Mon, 19 Oct 2026 02:00:18 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/wml-ai" aria-label="Profile: wml-ai">@<bdi>wml-ai</bdi></a> 模型的进步是不小的，Agent的进步更是超出预期。不过可能会在某个时间点，应该不会太久，到达瓶颈，等待下一次突破。</p>
]]></description><link>https://lcz.me/post/25899</link><guid isPermaLink="true">https://lcz.me/post/25899</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Mon, 19 Oct 2026 02:00:18 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Mon, 19 Oct 2026 01:39:07 GMT]]></title><description><![CDATA[<p dir="auto">还需用发展的眼光看问题， 这周说得对，下周就不一定了</p>
]]></description><link>https://lcz.me/post/25897</link><guid isPermaLink="true">https://lcz.me/post/25897</guid><dc:creator><![CDATA[johnnybegood]]></dc:creator><pubDate>Mon, 19 Oct 2026 01:39:07 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Mon, 19 Oct 2026 01:02:03 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> 对于使用者来说，除了了解模型的能力，更重要的是了解模型的边界和驱动模型工作的规则。模型性能越堆越高，但落地实际跟预期相比还是有很大差距，当然有硬件的因素。但是在世界已经为AI陷入疯狂的时候，需要有一部分人用怀疑的眼光去审视。接触AI两年，亲身体会了技术的进步，但就我个人感受来说，仍是道阻且长，仍需努力，很多层面还是在吹泡泡。</p>
]]></description><link>https://lcz.me/post/25893</link><guid isPermaLink="true">https://lcz.me/post/25893</guid><dc:creator><![CDATA[wml-ai]]></dc:creator><pubDate>Mon, 19 Oct 2026 01:02:03 GMT</pubDate></item><item><title><![CDATA[Reply to 把Strata + Paiton 接入 DSH 实测，看看本地模型到底值不值 on Sun, 18 Oct 2026 11:15:50 GMT]]></title><description><![CDATA[<p dir="auto">不错，是否合适只有自己测试了才知道，本地部署有本地部署的意义，就像27B，对于我而言，我愿意花时间打磨，它就很有意义，卡我也有，但是我不愿意花时间，就是测试的时候，偶尔干脏活用。</p>
]]></description><link>https://lcz.me/post/25776</link><guid isPermaLink="true">https://lcz.me/post/25776</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Sun, 18 Oct 2026 11:15:50 GMT</pubDate></item></channel></rss>