<![CDATA[跑27b模型购买设备请教]]>博主好，首先感谢你在油管分享的视频，我看了大受震撼！本人长期和linux系统打交道，最近借了同事的5060ti 16g显卡部署了wen3.6-27b-iq4-xs模型，全量加载后13.5g，可用显存1.5g，开启kv cache 双q8后，勉强可以跑20k上下文。接着在另外一个笔记本上部署hermes，要求64k上下文，虽然通过设置可以让hermes运行，但是每次执行任务很快就到18k上下文，做简单任务有时候都会溢出，真是让人又爱又恨！目前想买3080 20g卡学习 comfyui ，同时也需要跑跑本地模型编程，问问20g的3080最大可以跑多少上下文？不胜感激！

]]>https://lcz.me/topic/45/跑27b模型购买设备请教RSS for NodeWed, 20 May 2026 07:49:29 GMTThu, 07 May 2026 08:40:13 GMT60<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 14 May 2026 10:53:02 GMT]]>@applejuice 3090早特么停产了，100%矿卡，给你保你相信就没啥问题，关键是互信。

]]>https://lcz.me/post/1566https://lcz.me/post/1566Thu, 14 May 2026 10:53:02 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 14 May 2026 10:10:01 GMT]]>

@joker_chang 说:

@williamlouis 怎么可能不是矿卡......

可不可以基本可以100%确定 3090 一定是矿卡？
矿卡跑了几年有10-20%的性能下降？

我昨天下决心 不要买3090 结果huananzi 信誓旦旦 说不会有问题
有两年保家 害我又犹豫了

]]>https://lcz.me/post/1562https://lcz.me/post/1562Thu, 14 May 2026 10:10:01 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 14 May 2026 08:32:20 GMT]]>@williamlouis 怎么可能不是矿卡......

]]>https://lcz.me/post/1556https://lcz.me/post/1556Thu, 14 May 2026 08:32:20 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 14 May 2026 03:29:19 GMT]]>昨天看了下 蓝宝石 拼多多上有货 5928.全新无矿最重要。

]]>https://lcz.me/post/1519https://lcz.me/post/1519Thu, 14 May 2026 03:29:19 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 14 May 2026 03:28:01 GMT]]>@y2k 推荐小霸王学习机 7900xtx 24G

]]>https://lcz.me/post/1518https://lcz.me/post/1518Thu, 14 May 2026 03:28:01 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 14 May 2026 02:14:33 GMT]]>看自已能接受什么价位，要么上3090 24g，有钱最好上4090 48g

]]>https://lcz.me/post/1511https://lcz.me/post/1511Thu, 14 May 2026 02:14:33 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Wed, 13 May 2026 23:15:18 GMT]]>@y2k 能具体介绍一下方法嘛？谢谢

]]>https://lcz.me/post/1483https://lcz.me/post/1483Wed, 13 May 2026 23:15:18 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Sat, 09 May 2026 16:00:06 GMT]]>iq4-xs 可以跑128K上下文 KV8压缩

]]>https://lcz.me/post/686https://lcz.me/post/686Sat, 09 May 2026 16:00:06 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Fri, 08 May 2026 05:58:42 GMT]]>我就是3080 20G，只是拿来玩玩可以，干正事建议你还是规格往上。你听老特的没错，他这人尽说实话。

]]>https://lcz.me/post/524https://lcz.me/post/524Fri, 08 May 2026 05:58:42 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 07 May 2026 10:17:23 GMT]]>如果可以 建議還是買3090 如果以後要跑comfyui 少折磨 或者要賣 都容易脫手
二手3090也是有保固的 國內維修都是小問題 除非是在國外

]]>https://lcz.me/post/445https://lcz.me/post/445Thu, 07 May 2026 10:17:23 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 07 May 2026 10:07:54 GMT]]>@terry 好的，听取博主意见，后面有坑记得告知哈

]]>https://lcz.me/post/444https://lcz.me/post/444Thu, 07 May 2026 10:07:54 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 07 May 2026 09:33:33 GMT]]>@y2k 那就买xtx，一步到位，它足够用了。你在hermes里优化设置是浪费时间，xtx可以开128k吗，足够了。

]]>https://lcz.me/post/438https://lcz.me/post/438Thu, 07 May 2026 09:33:33 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 07 May 2026 09:28:23 GMT]]>@terry 买24g卡的话。我只能选择7900xtx，3900矿卡是不敢买的，3080 20g之所以敢买是因为有厂家1年保修

]]>https://lcz.me/post/437https://lcz.me/post/437Thu, 07 May 2026 09:28:23 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 07 May 2026 09:12:50 GMT]]>目前我给hermes提示了一个规则，做复杂任务时，上下文到达16k后，压缩归纳，然后重开一个新的对话，继续接着做，直到任务完成为止。目前用了这个规则，测试了一个复杂任务也能处理好了，分享一下

]]>https://lcz.me/post/436https://lcz.me/post/436Thu, 07 May 2026 09:12:50 GMT<![CDATA[Reply to 跑27b模型购买设备请教 on Thu, 07 May 2026 09:10:09 GMT]]>20G不知道呢，如果你折腾turboquant跑hermes是可以的，论坛有人跑起来了，Q4KM的模型要16.5G，只剩下3.5G，你可以多看看他们的帖子，买24G的卡吧。Q4KS或者你说的Iq4之类的，在hermes任务中明显不如Q4KM，我亲测。

]]>https://lcz.me/post/435https://lcz.me/post/435Thu, 07 May 2026 09:10:09 GMT