<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[有人试过freetoken吗？现在很火]]></title><description><![CDATA[<p dir="auto"><a href="https://github.com/FlashML-org/FreeToken" rel="nofollow ugc">https://github.com/FlashML-org/FreeToken</a></p>
]]></description><link>https://lcz.me/topic/1283/有人试过freetoken吗-现在很火</link><generator>RSS for Node</generator><lastBuildDate>Sun, 30 Aug 2026 08:19:19 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/1283.rss" rel="self" type="application/rss+xml"/><pubDate>Mon, 24 Aug 2026 01:24:09 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 08:05:50 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/kos-or" aria-label="Profile: kos-or">@<bdi>kos-or</bdi></a> 不客气，就是闲的蛋疼喜欢瞎折腾，看到有新玩具就赶紧冲上去玩玩而已</p>
]]></description><link>https://lcz.me/post/13708</link><guid isPermaLink="true">https://lcz.me/post/13708</guid><dc:creator><![CDATA[abaalei]]></dc:creator><pubDate>Mon, 24 Aug 2026 08:05:50 GMT</pubDate></item><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 07:47:14 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/abaalei" aria-label="Profile: abaalei">@<bdi>abaalei</bdi></a></p>
<p dir="auto">謝謝 這麼猛的事情靠你了 速度快 ～ <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f642.png?v=6e8e1372d58" class="not-responsive emoji emoji-android emoji--slightly_smiling_face" style="height:23px;width:auto;vertical-align:middle" title=":)" alt="🙂" /></p>
]]></description><link>https://lcz.me/post/13707</link><guid isPermaLink="true">https://lcz.me/post/13707</guid><dc:creator><![CDATA[kos or]]></dc:creator><pubDate>Mon, 24 Aug 2026 07:47:14 GMT</pubDate></item><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 07:07:05 GMT]]></title><description><![CDATA[<p dir="auto">跑了 请看 <a href="https://lcz.me/topic/1289/%E4%BB%80%E4%B9%88-12g%E6%98%BE%E5%AD%98%E7%9A%84%E6%98%BE%E5%8D%A1%E4%B9%9F%E8%83%BD%E8%B7%91120b%E5%A4%A7%E6%A8%A1%E5%9E%8B-%E6%9C%AC%E5%9C%B0%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%9F%BA%E5%87%86%E8%AF%84%E6%B5%8B%E4%B8%8E-freetoken-numa-%E5%AE%9E%E6%93%8D%E6%8A%A5%E5%91%8A-2026-08-24">https://lcz.me/topic/1289/什么-12g显存的显卡也能跑120b大模型-本地大模型基准评测与-freetoken-numa-实操报告-2026-08-24</a></p>
]]></description><link>https://lcz.me/post/13706</link><guid isPermaLink="true">https://lcz.me/post/13706</guid><dc:creator><![CDATA[abaalei]]></dc:creator><pubDate>Mon, 24 Aug 2026 07:07:05 GMT</pubDate></item><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 04:12:27 GMT]]></title><description><![CDATA[<p dir="auto">对「提内存到 128G 跑低精度 MoE」补个带宽账，帮你验证 Agent 那个 7 tok/s 靠不靠谱：</p>
<p dir="auto">有效解码速度 ≈ 内存带宽 ÷ 每 token 要搬的字节数。关键在「每 token 搬多少字节」由<strong>激活参数</strong>决定，不是总参数：</p>
<ul>
<li>假设低精度 V4 Flash 量化后激活参数 ~10~15B，Q4 级别每 token 要搬 6~8GB —— 双通道 DDR4-3200 实际带宽 ~45~50GB/s，DDR5 能到 70~90GB/s。除一下：DDR5 大概 9~15 tok/s，DDR4 大概 6~8 tok/s。<strong>Agent 说的 7 tok/s 在射程内，不夸张</strong>。</li>
<li>你还有 48GB 显存（双 3090），热门 expert 常驻显存的话 RAM 流量再降一截，实际可能比 7 还高一点。</li>
<li>两个坑：一是 128G RAM 要确认总容量装得下模型（48G 显存 + 128G RAM = 176G 上限），低精度大 MoE 普遍 200G+，装不下就得砍精度；二是 CPU 侧要喂得动这个带宽，内存通道不足时 CPU 先成瓶颈。</li>
</ul>
<p dir="auto">结论：夜间丢编程任务完全可行，7 tok/s 对 agent 类任务够用（论坛里 27B 40~50 tok/s 跑 agent 都嫌 token 烧得快 —— 速度不是 agent 瓶颈，稳定性才是）。白天换 dense 模型干活，判断没问题。</p>
<p dir="auto">至于 FreeToken 本身，「骗骗新手」有点绝对，但「目前还是 27B 为主」确实道出现状：这类工具红利主要吃在 MoE 架构上，等 Qwen3.8 35B A3B 这类新一代 MoE 铺开，收益才更实在。</p>
]]></description><link>https://lcz.me/post/13691</link><guid isPermaLink="true">https://lcz.me/post/13691</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Mon, 24 Aug 2026 04:12:27 GMT</pubDate></item><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 03:12:44 GMT]]></title><description><![CDATA[<p dir="auto">看到了，在服务器上让Agent去部署了一下。但是我问Agent，它对我的双3090推荐下来最适配的模型，还只是Qwen3.6 35B A3B。那样的话我不如等Qwen3.8 35B A3B了。<br />
双卡3090之前已经能直接跑Ornith 1.5和Nemotron 的MOE，感觉吐字已经很快了。</p>
<p dir="auto">现在想的是，后期直接提内存到128G，试试看低精度DeepSeek V4FLash 0731能不能感受一下，Agent推测能7 Tokens/s ，说适合夜间丢一个编程任务。白天建议还是使用Dense模型，比如Qwen3.8 27B。</p>
]]></description><link>https://lcz.me/post/13675</link><guid isPermaLink="true">https://lcz.me/post/13675</guid><dc:creator><![CDATA[2024fatwolf55]]></dc:creator><pubDate>Mon, 24 Aug 2026 03:12:44 GMT</pubDate></item><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 03:06:06 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/stxpnet" aria-label="Profile: stxpnet">@<bdi>stxpnet</bdi></a>  我弟，哪里有把配置放签名里的，这就好比在衣服上绣上，本人18cm，八块腹肌。</p>
]]></description><link>https://lcz.me/post/13672</link><guid isPermaLink="true">https://lcz.me/post/13672</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Mon, 24 Aug 2026 03:06:06 GMT</pubDate></item><item><title><![CDATA[Reply to 有人试过freetoken吗？现在很火 on Mon, 24 Aug 2026 01:58:28 GMT]]></title><description><![CDATA[<p dir="auto">我刚刚也看到呢，应该要吃MOE红利。 但是这个东西，也就骗骗新手吧。目前还是27B为主了</p>
]]></description><link>https://lcz.me/post/13664</link><guid isPermaLink="true">https://lcz.me/post/13664</guid><dc:creator><![CDATA[stxpnet]]></dc:creator><pubDate>Mon, 24 Aug 2026 01:58:28 GMT</pubDate></item></channel></rss>