<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[写了个模型档无损压缩管理器，有需要的可以试试看]]></title><description><![CDATA[<p dir="auto">最近硬盘实在太贵，但各家模型档是越出越大，想到接下来还有Qwen4系列就头大。</p>
<p dir="auto">系列ｘ版本ｘ社群微调ｘ权重，太恐怖了。于是我就找了Claude商量，能不能把模型档搞小点，但要无损的，于是最终讨论出来的方案就是：</p>
<p dir="auto">ZipNN概念算法+Delta增量储存</p>
<p dir="auto">ZipNN是IBM的论文，概念是压缩指数部分、保留浮点，对于BF16这类格式可以压缩到66%左右；<br />
Delta增量储存，则是可以重复利用每个模型中的重复权重。效益视权重重复性有多高。<br />
如果不适用于这两种，那就几乎不会有压缩效果，大概顶多只能节省 1-3 % 的空间。</p>
<p dir="auto">这是一张范例图，可以由箭头指出增量的上下游关系：</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/b288b7bb-fe67-4913-90a7-9317d8aa3840.jpg" alt="graph.jpg" class="img-markdown  img-fluid" /></p>
<p dir="auto">它基于 Python 3.13，使用 NumPy 和 zstandard 函式库。<br />
它有一个命令列介面（每个命令都可以列印 JSON 资料行，用于脚本和代理），以及一个GUI视窗。</p>
<p dir="auto">最简单的设定方法：让 AI 代理程式存取程式码仓库，并按照建置指南进行操作。它会产生一个便携式副本，因此不会在系统范围内安装任何东西。</p>
<p dir="auto">GUI视窗执行画面：</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/b079ef30-2f3c-4119-bee2-2445af1da312.jpg" alt="TheGUI.jpg" class="img-markdown  img-fluid" /></p>
<p dir="auto">如果各位觉得AI时代介面还这么土味，不喜欢，还有Godot版、Cyber​​ neon风的：</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/f29a9f05-d141-4ec0-b953-293d2cc9684a.jpg" alt="TheGUI2.jpg" class="img-markdown  img-fluid" /></p>
<p dir="auto">这是 github 连结：<a href="https://github.com/overdoingism/OverCompressing" rel="nofollow ugc">OverCompressing</a></p>
<p dir="auto">初来贵宝地，有何不周之处还请海涵赐教。 <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f633.png?v=ec85ec55bc1" class="not-responsive emoji emoji-android emoji--flushed" style="height:1.4em;width:auto;vertical-align:middle" title=":flushed:" alt="😳" /></p>
]]></description><link>https://lcz.me/topic/2545</link><generator>RSS for Node</generator><lastBuildDate>Sun, 25 Oct 2026 02:57:42 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2545.rss" rel="self" type="application/rss+xml"/><pubDate>Sat, 24 Oct 2026 06:19:02 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 写了个模型档无损压缩管理器，有需要的可以试试看 on Sat, 24 Oct 2026 09:41:10 GMT]]></title><description><![CDATA[<p dir="auto">很实用的工具，感谢！</p>
]]></description><link>https://lcz.me/post/27344</link><guid isPermaLink="true">https://lcz.me/post/27344</guid><dc:creator><![CDATA[PhilipShi2026]]></dc:creator><pubDate>Sat, 24 Oct 2026 09:41:10 GMT</pubDate></item><item><title><![CDATA[Reply to 写了个模型档无损压缩管理器，有需要的可以试试看 on Sat, 24 Oct 2026 08:22:52 GMT]]></title><description><![CDATA[<p dir="auto">鼓励探索开发，加油！</p>
]]></description><link>https://lcz.me/post/27326</link><guid isPermaLink="true">https://lcz.me/post/27326</guid><dc:creator><![CDATA[jason an]]></dc:creator><pubDate>Sat, 24 Oct 2026 08:22:52 GMT</pubDate></item></channel></rss>