<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！]]></title><description><![CDATA[<p dir="auto">最近本地AI部署技术可以说是日新月异啊。你只要没注意，像我啊，这两天基本上都在玩游戏，然后更新的时候就有点草率了，论坛的帖子我也没有怎么认真看。我再上去看的时候，发现自己就有点落伍了。像前几天比较火的HaloGen、NInfer，我基本上都没怎么测试。NInfer我测了一下，HaloGen我还没有来得及部署，但是NInfer我测的也不多，没有别人玩得那么深。另外就是这两天比较火的Strata，我还一直没找到时间去测。这个Strata现在火到什么程度呢？就是论坛有大量的帖子冒出来，无论你是AMD还是英伟达的显卡，比如一些老卡，16G显存的、12G显存的，都能跑。像RX 9070、7900 XTX、R9700这种卡都跑得非常嗨，然后英伟达就更不用说了，3060 12G都有人拿过来跑了，就把六爷都给复活了。然后什么3090、5060 Ti、5070，这些卡基本上都能跑。论坛有大量帖子，而且跑起来的效果还不错。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/a9bc91ad-2272-428a-99de-5cb97b6860eb.jpeg" alt="16G显卡崛起 AI小主机受到冲击.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">那么我之前在上一个视频中说，这一波新架构的技术创新，本质上就是跟AMD、英伟达，包括苹果的小主机走的原理差不多，就是用一个比较大的内存搭配一个比较强的GPU核心。但是不同之处在于，目前Strata这个方案是把你自己买来的这些平民价格的内存，无论是DDR3、DDR4还是DDR5的内存，把它跟你的独立显卡显存结合起来。把热门的专家放到显存中，把框架的核心部分放到显存中，然后把冷门的KV缓存以及一些权重文件放到内存中来。这样分层之后，它能够达到类似小主机统一内存的效果。当然了，它肯定没有小主机那种本来就是统一内存、GPU跟CPU之间共享数据的效率高，但是由于优化做得不错，现在本地大内存加上独立显卡跑出来的效果，完全不输给小主机，甚至体验还更好。</p>
<p dir="auto">那么我想说，首当其冲受到影响的就是AMD的小主机。最近AMD发布了这些小主机，四万大几、五万的价格，还是AI Max 395、400，改了个名字叫495，就把玩家当傻逼，把消费者当傻逼。它们能够干的活，事实上也就是跑个千问3.8 Flash。它如果想比较流畅地跑DeepSeek V4 Flash或者GLM 5.3 Flash这样的顶级旗舰开源MOE模型，也是做不到的。如果说涉及跑ComfyUI，你画图的话，小主机还能玩一玩，生成视频那就慢得跟狗屎一样，完全不如大内存加一张独立显卡，特别是一张24G的独立显卡。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/25a8c475-d1f6-49e5-b99a-1e096ceb576e.png" alt="AIMax395主机.png" class="img-markdown  img-fluid" /></p>
<p dir="auto">然后英伟达的小主机呢？怎么讲，DGX Spark，还是最近出来比较昂贵的RTX Spark笔记本。讲实话，DGX Spark由于双机互联、双机并联，能够跑DeepSeek V4 Flash或者GLM 5.3 Flash，或者跑一些其他比较新的AI大模型，效率还是比较高的。即便跑ComfyUI画图或者生成视频，由于它是英伟达的生态，这两个小盒子虽然慢，但是两个小盒子并联起来，效率也是要吊打AMD的，所以它除了贵，受到的冲击并没有那么大。然后RTX Spark这种笔记本，如果买笔记本的，我相信基本上也不是特别追求效率，能受到一定影响吧。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/af6665e5-9d5d-4685-8b95-678a5dabb3be.jpg" alt="rtx spark 笔记本.jpg" class="img-markdown  img-fluid" /></p>
<p dir="auto">另外就是苹果的小盒子。我必须说，苹果的小盒子受到影响最小，因为这种新技术出来，苹果生态有很多人愿意折腾。苹果都是一些高价值用户嘛，相同获客成本的情况下，你在苹果生态中做出同样的用户数量，获利空间要更大，所以苹果生态一定会有人折腾。而且我说过很多次，苹果的价值不仅仅在于它能不能跑AI。苹果设备目前来说就是最好的本地办公、搞生产力、驾驭AI、掌控其他AI入口的设备，它就是最好的。第一，它的macOS操作系统相比Linux生态更加丰富一点，更适合新人入手；相比Windows，它的稳定性可以说好出好几个层次。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/55d5cd2d-9e8d-4d66-ba1d-f9be3ec9bf2a.jpg" alt="Apple M5 Ultra.jpg" class="img-markdown  img-fluid" /></p>
<p dir="auto">那么说完小主机了，我们再谈一谈刚才提到的那么多显卡，哪些显卡获利程度最大。还是英伟达的显卡，像5070 Ti、5080或者4080这样的出厂16G显存、还没有魔改的卡，或者说50系列没办法魔改。它们本来跑大模型是非常废物的，现在由于GPU算力非常强悍、显存带宽比较高，英伟达生态又比较好，如果搭配足够量的内存，主板本身性能还不错，接口又是PCIe 4.0或者5.0，那么推理效率会大大提升，体验会好过那些小主机。反正你已经买了这种卡，本地可以用来玩游戏、搞一些生产、剪辑视频，或者做一些轻度的3D创作，那完全都是够的嘛。当然了，即便要跑ComfyUI视频，由于英伟达框架和驱动做得好，它的分层卸载策略比AMD好，在使用内存作为显存缓存的时候，效率也比AMD显卡好很多。虽然生成视频依然慢，但是慢的程度是可以接受的，基本上跟使用统一内存小主机的速度差不多。那在这种情况下，如果你有5070 Ti、5080、4080，甚至5060 Ti，体验也还不错，就完全没有必要羡慕那些小主机用户了，你在任何场景下的体验都要比他们更好。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/507146f0-60c6-4f1d-a68b-348964b59b98.webp" alt="华硕5080.webp" class="img-markdown  img-fluid" /></p>
<p dir="auto">然后就是AMD的几个卡，最主要的就是9070跟9070 XT，甚至你可能有9060。以前你是16G显存，也玩不了AI推理，现在可以玩了，而且是有生产力的。跑千问3.8 Flash Next这个模型，质地还是完全在线的。本身16G显存用来跑ComfyUI画图没什么问题，用来跑视频当然有点差强人意，因为AMD驱动做得比较烂，生态比较烂。如果使用内存作为显存缓存，效率牺牲比英伟达N卡要大很多。但是也不妨碍它能玩了。你看看去下载机智罗的盒子，看看优化优化，基本上折腾一些小的demo都还是能搞的。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/9b8f424b-26a0-4f71-8193-612af3933706.png" alt="蓝宝石9070XT.png" class="img-markdown  img-fluid" /></p>
<p dir="auto">然后视频最后我还说一下，以前我们认为在线模型进步非常快，但是我们没有考虑过一个问题：在线模型变得越来越聪明之后，我们本地这些垃圾显卡、入门级显卡，以前没有什么战斗力，但是由于很多人使用在线的很牛逼的模型帮助他们开发推理框架，导致各种各样的框架出来，而且用AI来改善本地部署AI的体验，这个东西是一个飞轮。一旦转起来，很有可能一些老旧硬件也能重新发挥作用。之前像3060 12G这种卡，我都觉得完全上不了台面，觉得这卡干什么，浪费时间。现在人家也能跑了，虽然比较慢，但是也能像模像样地搞起生产力了，生产力这三个字都能堂而皇之地进入3060的范围了。</p>
<p dir="auto">我相信可能再过一阵子，随着越来越多达人使用AI来开发，随着社区不断繁荣，包括Reddit、X，也包括我经营的这个小论坛，这种比较专注于AI领域的小论坛，越来越多的人来分享这些信息，本地部署的可玩性会越来越高。最近这段时间我在休息，每天更新视频都比较随意，也比较水，质量可能并不是太好，就是对着镜头瞎逼逼，大家体谅一下。你说不更新嘛，这东西毕竟要挣钱，得养家糊口；你说跟进嘛，像极客湾这些大神，像模像样地做一期视频，我又没那个时间，我还得放松放松。大家见谅一下，有什么意见可以在评论区留言，也可以到论坛发帖交流讨论。</p>
]]></description><link>https://lcz.me/topic/2060</link><generator>RSS for Node</generator><lastBuildDate>Mon, 12 Oct 2026 13:29:01 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2060.rss" rel="self" type="application/rss+xml"/><pubDate>Sat, 03 Oct 2026 08:00:00 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sun, 04 Oct 2026 16:16:33 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a></p>
<p dir="auto">南洋的所有人都是很抠的。。。尤其是攒到有田有地的人。。。</p>
]]></description><link>https://lcz.me/post/22412</link><guid isPermaLink="true">https://lcz.me/post/22412</guid><dc:creator><![CDATA[imbiplaza ASUS]]></dc:creator><pubDate>Sun, 04 Oct 2026 16:16:33 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 15:16:07 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> 能分享一下D3的效果嗎 我還有以前汰換的硬件想廢物利用 做個環保志工好嗎</p>
]]></description><link>https://lcz.me/post/22152</link><guid isPermaLink="true">https://lcz.me/post/22152</guid><dc:creator><![CDATA[dardeaw feng]]></dc:creator><pubDate>Sat, 03 Oct 2026 15:16:07 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 14:38:29 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/imbiplaza-asus" aria-label="Profile: imbiplaza-ASUS">@<bdi>imbiplaza-ASUS</bdi></a> 我弟你这样的土豪还研究价格，不是浪费生命吗？</p>
]]></description><link>https://lcz.me/post/22131</link><guid isPermaLink="true">https://lcz.me/post/22131</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Sat, 03 Oct 2026 14:38:29 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 14:38:01 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/grayson-ren" aria-label="Profile: Grayson-Ren">@<bdi>Grayson-Ren</bdi></a> 可以，没D4 D5顺滑，差距不是很大。更多是心理因素。</p>
]]></description><link>https://lcz.me/post/22130</link><guid isPermaLink="true">https://lcz.me/post/22130</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Sat, 03 Oct 2026 14:38:01 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 14:14:34 GMT]]></title><description><![CDATA[<p dir="auto">效果可不是不错这么简单啊，是很神奇，很好，很棒</p>
]]></description><link>https://lcz.me/post/22129</link><guid isPermaLink="true">https://lcz.me/post/22129</guid><dc:creator><![CDATA[vosrock]]></dc:creator><pubDate>Sat, 03 Oct 2026 14:14:34 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 13:58:15 GMT]]></title><description><![CDATA[<p dir="auto">如果rtx spark 64g 在4000美金之内，我相信我也有兴趣，我知道那个comfy ui 反正大约vram + dram 加起来也差不多50g之内，毕竟现在的rtxpro 4000 24g 也要4000美金了。。。</p>
<p dir="auto">算起来rtx spark 就是5070 的32gb 版本 加上分给内存用32gb, 这样来看，算是心理安慰总算可以买到相当不错的机器</p>
]]></description><link>https://lcz.me/post/22125</link><guid isPermaLink="true">https://lcz.me/post/22125</guid><dc:creator><![CDATA[imbiplaza ASUS]]></dc:creator><pubDate>Sat, 03 Oct 2026 13:58:15 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 13:51:12 GMT]]></title><description><![CDATA[<p dir="auto">这样看来内存要加起来了 ddr3可以么 ddr4太贵了</p>
]]></description><link>https://lcz.me/post/22123</link><guid isPermaLink="true">https://lcz.me/post/22123</guid><dc:creator><![CDATA[Grayson Ren]]></dc:creator><pubDate>Sat, 03 Oct 2026 13:51:12 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 13:04:11 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/dardeaw-feng" aria-label="Profile: dardeaw-feng">@<bdi>dardeaw-feng</bdi></a> 想买8条ddr4</p>
]]></description><link>https://lcz.me/post/22116</link><guid isPermaLink="true">https://lcz.me/post/22116</guid><dc:creator><![CDATA[applejuice]]></dc:creator><pubDate>Sat, 03 Oct 2026 13:04:11 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:57:55 GMT]]></title><description><![CDATA[<p dir="auto">3090 96gb 在跑hyperqwen3.8 速度不錯 如果改用strata 差別是在哪</p>
]]></description><link>https://lcz.me/post/22080</link><guid isPermaLink="true">https://lcz.me/post/22080</guid><dc:creator><![CDATA[tszhoill]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:57:55 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:33:08 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/afk" aria-label="Profile: AFK">@<bdi>AFK</bdi></a> 說好的長鑫 長江 便宜的國產呢?啥時要解放全世界? 我看價格也是貼著大廠走呀? 還是要跟美系韓系存儲一起同流合汙?</p>
]]></description><link>https://lcz.me/post/22074</link><guid isPermaLink="true">https://lcz.me/post/22074</guid><dc:creator><![CDATA[dardeaw feng]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:33:08 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:34:53 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> <a href="/post/22057">said</a>:</p>
<p dir="auto">我们再谈一谈刚才提到的那么多显卡，哪些显卡获利程度最大。还是英伟达的显卡，像5070 Ti、5080或者4080这样的出厂16G显存、还没有魔改的卡，或者说50系列没办法魔改。</p>
</blockquote>
<p dir="auto">這些RTX 5070 Ti、5080系新卡在台灣都有五年原廠保固，加上記憶體成本一直增加，可能會跟3090, 4090 一樣具有高保值度。喜歡打遊戲又有4K畫質能力 值得推薦 <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f60a.png?v=fe25256ab4a" class="not-responsive emoji emoji-android emoji--blush" style="height:1.4em;width:auto;vertical-align:middle" title=":blush:" alt="😊" /></p>
]]></description><link>https://lcz.me/post/22073</link><guid isPermaLink="true">https://lcz.me/post/22073</guid><dc:creator><![CDATA[kos or]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:34:53 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:22:49 GMT]]></title><description><![CDATA[<p dir="auto">12G 16G顯卡都能跑 可RAM需要64G以上 導致DDR4.5需求上升 不會又要漲一波吧</p>
]]></description><link>https://lcz.me/post/22071</link><guid isPermaLink="true">https://lcz.me/post/22071</guid><dc:creator><![CDATA[AFK]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:22:49 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:22:35 GMT]]></title><description><![CDATA[<p dir="auto">然後小主機越賣越貴</p>
<p dir="auto">DGX SPARK 128 GB 2025年10月上市價約 4000美元 =&gt; 新貨 DGX SPARK 128 GB 據說約上調到 7000美元<br />
DGX SPARK 64 GB 上市約 5000美元 (2026. 10月23日发布)</p>
]]></description><link>https://lcz.me/post/22070</link><guid isPermaLink="true">https://lcz.me/post/22070</guid><dc:creator><![CDATA[kos or]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:22:35 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:14:35 GMT]]></title><description><![CDATA[<p dir="auto">我AI Max+395當初買15000RMB，如果是現在行情我才不會買</p>
]]></description><link>https://lcz.me/post/22068</link><guid isPermaLink="true">https://lcz.me/post/22068</guid><dc:creator><![CDATA[dardeaw feng]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:14:35 GMT</pubDate></item><item><title><![CDATA[Reply to 本地AI部署革命，16G显卡焕发新生，AMD/英伟达/苹果小主机处境不同！在线AI模型帮助改善本地部署，飞轮效应已经显现！ on Sat, 03 Oct 2026 08:00:00 GMT]]></title><description><![CDATA[<p dir="auto"><a href="https://youtu.be/rVtcFJwlWIQ" rel="nofollow ugc"><i class="fa fa-youtube" aria-hidden="true"></i> Youtube Video</a></p><div class="js-lazyYT lazyYT-container" data-youtube-id="rVtcFJwlWIQ" data-width="640" data-height="360" data-parameters style="width:640px;padding-bottom:360px">
 <div class="ytp-thumbnail lazyYT-image-loaded" style="background-image:url(&quot;https://i.ytimg.com/vi/rVtcFJwlWIQ/hqdefault.jpg&quot;)">
  <button class="ytp-large-play-button ytp-button" tabindex="23" aria-live="assertive" style="transform:scale(0.85)" onclick="$(this).lazyYT(this);return false;">
   <svg height="100%" version="1.1" viewbox="0 0 68 48" width="100%">
    <path class="ytp-large-play-button-bg" d="m .66,37.62 c 0,0 .66,4.70 2.70,6.77 2.58,2.71 5.98,2.63 7.49,2.91 5.43,.52 23.10,.68 23.12,.68 .00,-1.3e-5 14.29,-0.02 23.81,-0.71 1.32,-0.15 4.22,-0.17 6.81,-2.89 2.03,-2.07 2.70,-6.77 2.70,-6.77 0,0 .67,-5.52 .67,-11.04 l 0,-5.17 c 0,-5.52 -0.67,-11.04 -0.67,-11.04 0,0 -0.66,-4.70 -2.70,-6.77 C 62.03,.86 59.13,.84 57.80,.69 48.28,0 34.00,0 34.00,0 33.97,0 19.69,0 10.18,.69 8.85,.84 5.95,.86 3.36,3.58 1.32,5.65 .66,10.35 .66,10.35 c 0,0 -0.55,4.50 -0.66,9.45 l 0,8.36 c .10,4.94 .66,9.45 .66,9.45 z" fill="#1f1f1e" fill-opacity="0.9">
    </path>
    <path d="m 26.96,13.67 18.37,9.62 -18.37,9.55 -0.00,-19.17 z" fill="#fff">
    </path>
    <path d="M 45.02,23.46 45.32,23.28 26.96,13.67 43.32,24.34 45.02,23.46 z" fill="#ccc">
    </path>
   </svg>
  </button>
 </div>
</div><p></p>
]]></description><link>https://lcz.me/post/22058</link><guid isPermaLink="true">https://lcz.me/post/22058</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Sat, 03 Oct 2026 08:00:00 GMT</pubDate></item></channel></rss>